OpenAI’ın yeni güvenlik komitesi tartışma yarattı

OpenAI, projeleri ve operasyonlarıyla ilgili kritik güvenlik ve emniyet kararlarını denetlemek için yeni bir komitesi kurdu. Komite, CEO Sam Altman ve diğer üst düzey yöneticilerden oluşuyor. Bu da büyük soru işaretleri meydana getirdi.

OpenAI, şirket içinden isimlerle güvenlik komitesi kurdu

OpenAI’nin yeni Güvenlik ve Emniyet Komitesi, şirketin CEO’su Sam Altman, yönetim kurulu üyeleri Bret Taylor, Adam D’Angelo ve Nicole Seligman, baş bilimci Jakub Pachocki, hazırlık ekibinin lideri Aleksander Madry, güvenlik sistemleri başkanı Lilian Weng, güvenlik başkanı Matt Knight ve uyum bilimi başkanı John Schulman’dan oluşuyor.

I resigned a few hours before hearing the news about @ilyasut and @janleike, and I made my decision independently. I share their concerns. I also have additional and overlapping concerns.

— Gretchen Krueger (@GretchenMarina) May 22, 2024

Bu komite, önümüzdeki 90 gün boyunca OpenAI’nin güvenlik süreçlerini ve önlemlerini değerlendirecek. Değerlendirmeler sonuçlandığında, bulgular ve öneriler yönetim kuruluna sunulacak ve bazı öneriler halka açıklanacak.

OpenAI, son birkaç ay içinde güvenlik ekibinden yüksek profilli birkaç ayrılık yaşadı. Eski çalışanlar, şirketin yapay zeka güvenliği konusundaki önceliklerini sorguladı. Daniel Kokotajlo, şirketin giderek daha yetenekli yapay zekaları sorumlu bir şekilde kullanacağına olan inancını yitirdiği için Nisan ayında istifa etti.

Mayıs ayında ise OpenAI kurucularından ve baş bilimci olan Ilya Sutskever, CEO Sam Altman ile yaşanan anlaşmazlıklar nedeniyle şirketten ayrıldı. Sutskever’in ayrılığında, Altman’ın güvenlik çalışmalarını ihmal ederek yapay zeka ürünlerini hızla piyasaya sürme çabasının rol oynadığı iddia edildi.

Daha yakın bir zamanda Jan Leike, ChatGPT ve InstructGPT’nin geliştirilmesinde rol almış eski bir DeepMind araştırmacısı, OpenAI’nin güvenlik ve emniyet konularını doğru bir şekilde ele almadığını düşündüğü için görevinden ayrıldı.

Yapay zeka politikası araştırmacısı Gretchen Krueger de benzer endişelerle şirketten ayrıldı ve OpenAI’yi hesap verebilirliğini ve şeffaflığını artırmaya çağırdı.

OpenAI just created an oversight board that’s filled with its own executives and Altman himself. This is a tried and tested approach to self-regulation in tech that does virtually nothing in the way of actual oversight. https://t.co/X7ay4IijXF

— Parmy Olson (@parmy) May 28, 2024

OpenAI, yapay zeka düzenlemesi için savunuculuk yaparken, bu düzenlemeleri şekillendirmeye de çalıştı. Şirket, bu amaçla lobi faaliyetlerine ciddi kaynaklar ayırdı. Ayrıca, ABD İç Güvenlik Bakanlığı’nın yeni kurulan Yapay Zeka Güvenlik ve Emniyet Kurulu’nda yer alacak üyeler arasında Altman da bulunuyor.

OpenAI, etik açıdan eleştirilen komite yapısını dengelemek amacıyla dış uzmanlar da istihdam edeceğini duyurdu. Bu uzmanlar arasında siber güvenlik uzmanı Rob Joyce ve eski ABD Adalet Bakanlığı yetkilisi John Carlin yer alıyor. Ancak, bu dış uzman grubunun büyüklüğü ve komite üzerindeki etkisi hakkında ayrıntılar verilmedi.

Bloomberg yazarı Parmy Olson, şirket içi denetim kurullarının genellikle gerçek denetim işlevi görmediğini belirtti. OpenAI, komite aracılığıyla geçerli eleştirileri ele almayı planladığını söylese de, bu eleştirilerin geçerli olup olmadığı tartışmalı.

CEO Sam Altman, 2016’da yaptığı bir açıklamada, OpenAI’nin yönetişiminde dış temsilcilere önemli bir rol verileceğini belirtmişti. Ancak, bu plan hiçbir zaman gerçekleşmedi ve şu anda gerçekleşmesi pek olası görünmüyor.