OpenAI, projeleri ve operasyonlarıyla ilgili kritik güvenlik ve emniyet kararlarını denetlemek için yeni bir komitesi kurdu. Komite, CEO Sam Altman ve diğer üst düzey yöneticilerden oluşuyor. Bu da büyük soru işaretleri meydana getirdi.
OpenAI, şirket içinden isimlerle güvenlik komitesi kurdu
OpenAI’nin yeni Güvenlik ve Emniyet Komitesi, şirketin CEO’su Sam Altman, yönetim kurulu üyeleri Bret Taylor, Adam D’Angelo ve Nicole Seligman, baş bilimci Jakub Pachocki, hazırlık ekibinin lideri Aleksander Madry, güvenlik sistemleri başkanı Lilian Weng, güvenlik başkanı Matt Knight ve uyum bilimi başkanı John Schulman’dan oluşuyor.
Bu komite, önümüzdeki 90 gün boyunca OpenAI’nin güvenlik süreçlerini ve önlemlerini değerlendirecek. Değerlendirmeler sonuçlandığında, bulgular ve öneriler yönetim kuruluna sunulacak ve bazı öneriler halka açıklanacak.
OpenAI, son birkaç ay içinde güvenlik ekibinden yüksek profilli birkaç ayrılık yaşadı. Eski çalışanlar, şirketin yapay zeka güvenliği konusundaki önceliklerini sorguladı. Daniel Kokotajlo, şirketin giderek daha yetenekli yapay zekaları sorumlu bir şekilde kullanacağına olan inancını yitirdiği için Nisan ayında istifa etti.
Mayıs ayında ise OpenAI kurucularından ve baş bilimci olan Ilya Sutskever, CEO Sam Altman ile yaşanan anlaşmazlıklar nedeniyle şirketten ayrıldı. Sutskever’in ayrılığında, Altman’ın güvenlik çalışmalarını ihmal ederek yapay zeka ürünlerini hızla piyasaya sürme çabasının rol oynadığı iddia edildi.
Yalnızca 16 bin dolara satılan ve küçük boyutuyla dikkat çeken bir humanoid robot Unitree G1 piyasaya çıktı. İşte teknik özellikleri!
Daha yakın bir zamanda Jan Leike, ChatGPT ve InstructGPT’nin geliştirilmesinde rol almış eski bir DeepMind araştırmacısı, OpenAI’nin güvenlik ve emniyet konularını doğru bir şekilde ele almadığını düşündüğü için görevinden ayrıldı.
Yapay zeka politikası araştırmacısı Gretchen Krueger de benzer endişelerle şirketten ayrıldı ve OpenAI’yi hesap verebilirliğini ve şeffaflığını artırmaya çağırdı.
OpenAI, yapay zeka düzenlemesi için savunuculuk yaparken, bu düzenlemeleri şekillendirmeye de çalıştı. Şirket, bu amaçla lobi faaliyetlerine ciddi kaynaklar ayırdı. Ayrıca, ABD İç Güvenlik Bakanlığı’nın yeni kurulan Yapay Zeka Güvenlik ve Emniyet Kurulu’nda yer alacak üyeler arasında Altman da bulunuyor.
OpenAI, etik açıdan eleştirilen komite yapısını dengelemek amacıyla dış uzmanlar da istihdam edeceğini duyurdu. Bu uzmanlar arasında siber güvenlik uzmanı Rob Joyce ve eski ABD Adalet Bakanlığı yetkilisi John Carlin yer alıyor. Ancak, bu dış uzman grubunun büyüklüğü ve komite üzerindeki etkisi hakkında ayrıntılar verilmedi.
Apple, iOS 18 ile birlikte gelecek yeni yapay zeka özellikleriyle ChatGPT korelasyonuna ihtiyaç duymayabilir. İşte detaylar!
Bloomberg yazarı Parmy Olson, şirket içi denetim kurullarının genellikle gerçek denetim işlevi görmediğini belirtti. OpenAI, komite aracılığıyla geçerli eleştirileri ele almayı planladığını söylese de, bu eleştirilerin geçerli olup olmadığı tartışmalı.
CEO Sam Altman, 2016’da yaptığı bir açıklamada, OpenAI’nin yönetişiminde dış temsilcilere önemli bir rol verileceğini belirtmişti. Ancak, bu plan hiçbir zaman gerçekleşmedi ve şu anda gerçekleşmesi pek olası görünmüyor.
