Beklenmedik yapay zeka yeteneklerinin gizemi

İyi bir bilim kurgu aşığı olarak hiçbir zaman tam olarak şu durumdan kurtulamadım:sendrom HAL9000 Yapay Zeka hakkında konuşurken. Süper bilgisayar yaratıldı Arthur C. Clarke “2001, Bir Uzay Destanı” adlı romanında daha sonra ustaca filme uyarlanmıştır. Stanley KubrickMakinelerin akıllı olup olamayacağı tartışmasının ikonu, yıllar önce “Taklit oyunu”yla açılan kavun her zaman hatırlananlar için Alan Turing. Daha sonra ortaya çıkan bir tartışma daha da metafizik bir tartışma daha: Makineler duyarlı olabilir mi veya gelişebilir mi? İşte biz CCFF meraklılarının muzdarip olduğu ölümcül korkulardan biri, hayatta kalma içgüdüsü. Hala mümkün olup olmadığını bilmiyorum bağırsak Her ikisi de neredeyse 56 yıllık bir film ve orijinal romanı ama bilmeyenler ya da hatırlamayanlar için bir gerçeği ortaya koymak gerekiyor: HAL9000, “2001” filminin olay örgüsünün baş kahramanıdır. . .”, çünkü kararda iddia edilen bir hata işledikten sonra, tüm mürettebatı öldürür geminin. Neredeyse her şey: Astronotlardan biri kaçmayı başarır ve bağlantıyı kesmeyi başarır. böcek. HAL9000’e ne olduğu sorusu her zaman bu temel korkulardan birini gizlemiştir. Lovecraft’ınİnsanlardaki sibernetik varlıklara ilham veren. İlk “konuşmalardan” biri ChatGPT ile yaşadığım HAL9000 ile ilgiliydi ve hata, çünkü eğer varsa bu hata “neredeyse” insan, “neredeyse” dediğim gibi çok insani Nietzsche. Cevabı beni şaşırtmaya devam ediyor: Modern yapay zekanın kurgusal atası ya “etik kriz” misyonu koruma amaçları ile mürettebattan bilgi gizleme zorunluluğu arasında veya anlaşmazlık “Programlamanız ile misyonunuz ve insanlığınız için en iyi olanın arasında.”

Bütün bu eksordium, giderek sıklaşan haberler nedeniyle anlamlıdır. Yüksek Lisans’ın garip becerileri (Büyük Dil Modelleri) eğitimleri sırasında beklenmedik bir şekilde gelişerek onlarla çalışan bilim adamlarını büyük bir şaşkınlığa uğratmıştır. Logic, insan beynindekilerden ilham alan sinir ağlarıyla özümsedikleri tonlarca veriyle dolu bu yapay zeka modellerinin, bu eğitim sırasında belirli beceriler geliştirdiğini söylüyor. Veri bilimcilerin hala orada ne olduğunu tam olarak anlayamadıklarını ancak sonucun ne olduğunu bildiklerini belirtmek gerekir: Yapay zeka beklenen becerileri geliştirir. Giriş sonuç olarak bir çıktı verir. Ama aynı zamanda beklenmedik başka şeyler de geliştiriyor. Uzmanlar onlara “ortaya çıkan davranışlar” ve zaten düzinelerce listelenmiş durumda. Ve liste büyümeye devam ediyor. Bu arada, “gelişmekte olan” terimi Bu tesadüf değil. Biyologlar, fizikçiler ve diğer bilim insanları bu sözcüğü “ kolektif ve kendi kendine organize olan davranışları tanımlamak “çok sayıda şeyin tek bir şey gibi hareket etmesiyle ortaya çıkan şey.” Bu alıntıyı alıntıladığım prestijli bilimsel dergi Quantamamagazine’deki bir makale, bu davranışın, bir dizi atomun birleşerek canlı hücreleri oluşturduğunda yaşamı ortaya çıkaran davranışla ya da canlı hücreleri oluşturan davranışla aynı olduğuna işaret ediyor. senin ya da benimki şu anda atmaya devam etsin. “Ortaya çıkan yetenekler, birçok bireysel parçayı içeren sistemlerde ortaya çıkar. Fakat araştırmacılar ancak son zamanlarda bu becerileri belgeleyebildiler Yüksek Lisans’ta, çünkü bu modeller büyüyerek muazzam boyutlara ulaştı”, yukarıda adı geçen Kuzey Amerika dergisinde Esteban Ornes tarafından imzalanan makale (işte İspanyolca versiyonu) diyor. Başlangıçta bu bir boyut meselesi gibi görünüyordu: Model ne kadar büyükse, öngörülemeyen yetenekler de o kadar fazla gelişti. Ancak daha da şaşırtıcı olanı, bu yeteneklerin yalnızca Google, OpenAI veya META’nın devasa modellerinde ortaya çıkmamasıydı: aynı etkiyi geliştiren birkaç milyon parametreli küçük modeller de vardı. Özelliği mi? Onlar eğitilmişti az veriyle ancak yüksek kalitede. Bu noktada herhangi biri endişelenmeye başlıyorsa, aşağıdakileri okumayın. Google Brain araştırmacıları, bir yüksek lisans öğrencisinin mantık yürütmeye zorlandığını zaten tespit etmeyi başardılar. “düşünce zinciri”, Örneğin yapay zekanın aniden kendini açıklamasının teşvik edilmesi, bu modelin “kendini tanıma” mesajı olmadan karmaşık bir matematik problemini doğru bir şekilde çözmesini kolaylaştırdı. veya “öz farkındalık”, Nasıl çözeceğimi bilemedimR. Yapay zekaya her baskı uygulandığında uzmanlar “acil durum” kavramından bahsediyor. işte bu “düşünce zinciri” sistemiyle yaratılmış Garip şeyler olmaya başlar. Hakkında bir kitap okursanız son teknoloji sinir bilimi Her ne kadar her ne kadar insan beyninden bahsetsek de, kendinizi çok benzer yaklaşımlarla karşı karşıya bulabilirsiniz. inanılmaz şeyler aşırı durumlara yerleştirildiklerinde.

Bu baskı da gelebilir iki yapay zekayı karşı karşıya getirmek: Biri sorunu etkili bir şekilde çözmeden önce nasıl çözeceğini düşünerek yaratıcı bir şekilde hareket ederken, diğeri sonuçların doğrulayıcısı ve denetleyicisi olarak hareket eder. Yapay Zeka eğitiminde yeni bir sistem değil ama bu teknolojinin gelişini ölçen disiplin olan matematikte öngörülemeyen sonuçlar veriyor. Birkaç gün önce Derin Düşünceen büyük yapay zeka laboratuvarlarından biri Google, modelini açıkladı Eğlenceli Arama Derin matematiğin eski bir bilmecesi olan ve soruna nasıl yaklaşılacağı konusunda fikir birliğine varılamaması nedeniyle pek çok yüzleşmeye neden olan “limit belirleme sorunu”nu çözmüştü. Prensipte matematik problemlerini çözmek için bir model olmayan “FunSearch” bu disiplinde ortaya çıkıyor ve şimdiye kadar bilinenlerden daha hızlı çözümlerle başka bir popüler matematik zorluğunu halihazırda ele alıyor: konteyner paketleme sorunu. DeepMind araştırmacılarından Alhussein Fawzi, bu olağanüstü yeteneklerin nereden geldiğinin açıklanmadığını kabul etti.

Alakalı haberler

Ve burada HAL9000’e ve onun “hatasına” dönüyoruz. öngörülemezlik Ortaya çıkan bu davranışların bir kısmı gördüğümüz kadarıyla parlak, bir kısmı ise riskler yaratıyor. Bu, meraklıların “Yıldız Savaşları”nda öğrendiği bir şey: Gücün aydınlık bir tarafı olduğu kadar karanlık bir tarafı da var. Amodei kardeşlerin yapay zeka “Claude”u yaratan şirketi Anthropic’te bilim insanı olan Deep Ganguli, bunu çok açık bir şekilde söylüyor: “Zarar verme yeteneğinin ne tür bir uygulamada kullanılacağını nasıl bileceğimizi bilmiyoruz. ister yumuşak ister öngörülemez olsun, ortaya çıkar. halüsinasyonlar ya da hatalar Bunlar yapay zekanın bu karanlık tarafının buzdağının sadece görünen kısmı. Hazır buradayken bir örnek: ChatGPT yanlıştı Anthropic’i yaratan ve bunu OpenAI’nin yöneticilerine atfeden bu blog yazısını yazmasını istediğimde, Sam Altman ve Greg Brokmankardeşler yerine Amodei, aslında OpenAI’nin içindeydiler, ancak tam olarak Antropik’i bulmak için ayrıldılar. ChatGPT, tam bir hata yaptığını belirttiğimde “Özür dilerim, önceki cevabımda bir hata yaptım” diye yanıt verdi. İyi olan şey, birçok yapay zeka modelinin olmasıdır. Antropik’in Amodei’den olduğunu zaten bilen benim yaptığımı yaparsanız hatalardan kaçınırsınız: başka bir yapay zekaya sorun. Şaşkınlık, bence diğer yapay zekalardan çok daha iyi çünkü yanıtları, alıntı yaptıkları belirli, danışılabilir kaynaklara dayanıyor ve doğru anladılar. Birine güvenmene gerek yok ama birkaçına sor.

Bütün bunlar teknolojinin babalarından biri tarafından çok iyi özetlenmiş: Jeff Bezoskurucusu Amazon. Yakın zamanda yapılan bir röportajda Bezos, Yapay Zeka vizyonuna teknoloji veya mühendisliğin ötesine geçen kavramlarla yanıt verirken dikkat çekti. “Harika dil modelleri icat değil, keşiftir” diyor. Ve şunu belirtiyor: “ yetenekleri hakkında sürekli sürprizler “Mühendislik tarafından tasarlanmış nesneler değil, keşifler olduklarını gösteriyorlar.” Bezos entegre kanadından geliyor ve yapay zeka konusundaki iyimserliğini şöyle gösteriyor: “Bence bu güçlü araçların dengemizi bozup yok etmektense bize yardım edip bizi kurtarması daha muhtemel.” Amin, Bay Jeff…

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir