OpenAI araştırmacıları, Altman’ın kovulmasından önce yapay zekada atılım iddiaları konusunda uyardı

Bir grup araştırmacı OpenAIyaratan şirket SohbetGPTYönetim kurulunu avans iddiaları konusunda uyardı yapay zeka (AI) onlara göre insanlık için bir tehdit oluşturabilir. İç kaynaklara göre bu mektup, uzman medyaya işaret ediyordu. Bilgi ve Reuters ajansına, görevden alınmadan kısa bir süre önce gönderilmişti. Sam Altman şu anki şirketin CEO’su olarak.

Bilgiler, ne yayınlanmış ne de bilimsel incelemeye tabi tutulmuş olan bu teknolojik keşfin, OpenAI yönetim kurulunun kurucu ortağını ihraç etmesine yol açan faktörlerden biri olduğunu öne sürüyor. Ancak ‘sözcüleri’başlatmak‘Özel medyayı reddettiler’ Sınır söz konusu mektubun varlığı ve Altman’ın ani görevden alınmasındaki rolü.

Geçtiğimiz Perşembe günü Altman, OpenAI’nin “cehalet perdesini aşmalarına ve bilgi sınırlarını ilerletmelerine” olanak tanıyacak yakın tarihli bir teknik ilerlemeye değindiği bir yönetici zirvesine katıldı. keşif“Yani bu yorumlar fark edilmedi. Bir gün sonra karizmatik CEO kovuldu.

Önemli bir atılım mı?

Reuters’in aktardığı kaynaklar ve Bilgi Yeni bir modelden bahsediyorlar yapay zeka olarak bilinir Q* (ve Q Star olarak telaffuz edilir) basit matematik problemlerini çözme yeteneğine sahiptir, ancak her iki satış noktası da bu yetenekleri bağımsız olarak doğrulayamamıştır. İlkokul öğrencileri düzeyinde operasyonlar gerçekleştirmek devrim niteliğinde görünmese de projeye katılan OpenAI araştırmacıları, bunun teknolojinin geliştirilmesinde çok önemli bir adım olacağına inanıyor. genel yapay zeka (IAG), varsayımsal olarak bilindiği üzere süper zeka insan yeteneklerine eşit veya bunları aşan bir şey.

Tartışmalı ‘Terminatör’ fikri uzmanları derinden bölüyor. Bazıları bu tartışmalı kavramın bilim alanına ait olduğunu öne sürüyor. bilimkurgu ve bunun hakkında konuşmanın, yapay zekaya sahip olmadığı sihirli yetenekleri kazandırmaya yönelik bir manevra ve bu teknolojinin halihazırda neden olduğu gerçek sorunlardan dikkati dağıtmak olduğunu düşünüyorlar. Diğerleri gibi Elon Musk veya OpenAI’nin yöneticileri, Google DeepMind herhangi biri Antropik —hepsi yapay zeka işini ekonomik olarak sömürmekle ilgileniyor— bunu kendi amaçları olarak görüyor ve insanlığın “yok olma riskini” nükleer savaşla eşitliyor.

Bu iddia edilen ilerlemenin öncüsü olabilir. İlya SutskeverOpenAI’nin baş bilim insanı. Aynı kaynaklar, keşfin bazı çalışanlar arasında endişe uyandırdığını, çünkü şirketin bu gelişmiş modellerin halka pazarlanmadan önce güvenliğini garanti edemeyeceğinden korktuklarını garanti ediyor.

Altman’a daha fazla güç

Alakalı haberler

Aynı zamanda kurucu ortaklardan biri olan Sutskever, geçen Cuma günü Altman’a video görüşmesi yoluyla kovulduğunu bildiren kişiydi. Bu şaşırtıcı karar sektörde depreme neden oldu. Birkaç saat içinde personelin neredeyse %95’i, konseyin istifasını talep eden ve İspanya’ya kaçmakla tehdit eden bir mektubu imzaladı. MicrosoftChatGPT’nin yaratıcısının ana iş ortağı.

Birkaç gün süren hararetli müzakerelerin ardından yatırımcılarAltman’ın CEO olarak yeniden görevlendirilmesi ve OpenAI’yi yöneten bağımsızlardan oluşan eski kurulun yeniden yapılandırılması için Çarşamba günü bir anlaşmaya varıldı. Anlaşma istifaya yol açtı Helen Toner Ve Tasha McCauleyşirket tarafından dağıtılan yapay zeka modellerine yönelik güvenlik önlemlerinin eksikliği ve bunların yaratabileceği sosyal etkilerle ilgili iki direktif.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir