Q* projesi nedir ve insanlık için risk oluşturan yapay zeka neler yapabilir?

Şirket OpenAIuygulamanın yaratıcısı SohbetGPTbu günlerde medyanın ilgi odağını tekeline aldı çünkü işten çıkarılma kendine ait Şirketin CEO’su, Sam Altmanve onun daha sonra dönüşÇalışanların çoğunluğunun istifa tehditleri sonrasında. Ancak sebep ilk işten çıkarmanın hala bilinmiyorHer ne kadar bazıları Altman ve şirketin yönetim kurulunun farklılıklar tehlikeli yeni yapay zeka modeli hakkında proje Q* (Q Yıldızı).

Reuters haber ajansı birkaçının güvence altına alındığı bilgileri yayınladı şirket araştırmacıları bir yazdılar mektup yönetim kuruluna “yapay zekanın güçlü bir keşfi” konusunda uyarıda bulundu; kendi görüşüne göre, “İnsanlığı tehdit edebilir”. Bu, Q* projesidir; ilkokul öğrencisi düzeyinde matematik problemlerini çözTehlikeli görünmeyebilir ama gerçek şu ki bu, yapay genel zekanın (AGI) gelişimi için temel bir adımdır. Bu yeni yapay zeka varsayımsaldır süper zeka bu şuna eşit veya onu aşacak bir insanın yetenekleri.

Engelsiz pazarlama

O amaç ana şirket OpenAI geliştirmek the IAGkendilerinin beyan ettiği gibi. Şirketin kendisi bunu “ekonomik açıdan en değerli görevlerde insanlardan daha iyi performans gösteren otonom sistemler” olarak tanımlıyor. Bu nedenle, bunun geliştirilmesi şirket için sürpriz olmadı ancak sorun yönetim kurulunun Sam Altman’ın niyeti olduğuna inanmasıydı. Sonuçlarını anlamadan önce teknolojiyi ticarileştirin.

Piyasaya sürülmesinin beklenen hızı “Engel kurulmasına” izin vermedi herhangi bir şirket tarafından satın alınabildiğinde daha fazla istenmeyen sonuçların önlenmesi için şirketin güvenlik ekiplerine.

IAG, insanlar için tehlike

Matematik problemlerini yapay zekayla çözmek ilk başta insanlık için çok etkileyici bir şey olmasa da gerçekte büyük ilerlemeçünkü uzmanlar bunu garanti ediyor matematik sınırdı bu teknolojiye kim direndi. Şu anda, yazma ve dil çeviri konusunda iyi Bir sonraki kelimeyi istatistiksel olarak tahmin ederek. Ancak matematikte durum daha karmaşıktır çünkü Tek bir doğru cevap var.

Alakalı haberler

Aynı şekilde IAG bir hesap makinesinden çok daha fazlasıgenelleştirebildiği, öğrenebildiği ve anlayabildiği için insan zekası. Bu yüzden birçok uzman dikkatli Bu teknolojinin gelişmesiyle birlikte olası sonuçları konusunda uyarıda bulunuyoruz. Ölen kişinin durumu bu Stephen Hawking2014 yılında “kendini yeniden tasarlamaya karar verebileceğini ve böylece daha yüksek bir seviyeye ulaşabileceğini” garanti etmişti.

Elon Musk Ayrıca bu yılın başında yapay zekanın da işe yaradığını belirterek ilerleme hakkında yorum yaptı. düzenlenmesi gerekiyordu ve IAG “nükleer bir savaştan daha tehlikeli olacağı” için dikkatli davranılmalıdır. Bu nedenle önümüzdeki yıllarda insanlığın gelişiminin anahtarı olacak yapay zeka sektöründeki olası gelişmelere karşı dikkatli olmamız gerekecek.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir