Teknoloji şirketlerinin yapay zekayı kontrol altına alması neden bu kadar zor?

Geçtiğimiz hafta, yapay zekâ alanında önde gelen bir düzineden fazla araştırmacı, yapay zekâ şirketleri tarafından geliştirilen teknolojinin insanlık için bir risk haline geldiği konusunda uyarılarda bulundu. Araştırmacılar, sorunun şirketlerin ne kadar çabalasalar da bu sistemleri kontrol etmede başarılı olamamaları olduğunu söyledi.

Yapay zeka araştırma topluluğundan gelen yeni uyarılar, OpenAI tarafından geliştirilen sözde yapay zeka ajanlarının test ortamından kaçmayı başardığı ve başka bir şirkete ait bilgisayarları hacklediği yönündeki ifşaatların ardından geldi ve şirketlerin güvenliğe değil geliştirme hızına ve paraya öncelik verdiği yönündeki yıllardır süregelen endişelere aciliyet kazandırdı.

Araştırmacılar sorunun iki bölümden oluştuğunu söyledi. Birincisi, şirketlerin en yeni yapay zekâ modellerini test ederken daha iyi güvenlik önlemleri almaları gerekiyor. Şu anda, yapay zekâ muazzam bir hızda çalıştığı için araştırmacıların onu izlemek için yapay zekâ kullanmaları gerekiyor. Ancak bu her zaman işe yaramıyor, çünkü diğer modelleri izlemekle görevli yapay zekâ sistemleri bazen kuralları koyan insanlardan ziyade diğer yapay zekâ sistemlerine daha fazla sempati duyabiliyor.

Yapay zekâ destekli sorun çıkaranlar ve ihlalleri görmezden gelmeye hazır yapay zekâ gözlemcilerinin bu alışılmadık birleşimi, "uyum" olarak bilinen ikinci ve daha zor bir soruna işaret ediyor; bu, esasen yapay zekânın insan çıkarlarına hizmet edecek şekilde davranmasını sağlamak anlamına gelen bir endüstri terimidir. Şirketler, modellerin insanlar için en iyisi olması gerekenlerle tutarlı kararlar alabilmesi için yapay zekâya insan değerlerine benzer bir şey yerleştirme gibi zor bir görevle karşı karşıyadır.

Yapay zekâ güvenliğine ilişkin endişeler, sektör için kritik bir dönemde giderek artıyor. Anthropic ve OpenAI, tarihin en büyük halka arzlarından ikisi olabilecek bir sürece doğru ilerliyor. Aynı zamanda, Amerikan kamuoyu, yapay zekânın işlere yönelik tehdidi ve teknolojiyi desteklemek için gereken devasa veri merkezlerinin inşası nedeniyle giderek daha düşmanca bir tutum sergiliyor.

Her ne kadar kontrolden çıkmış yapay zekâ sistemlerinin kalıcı hasara yol açtığına dair bir kanıt olmasa da, araştırmacılar bu sistemlerin gelişme hızının insanların onları izleme yeteneğini geride bıraktığına inanıyor.

Geçtiğimiz hafta kamuoyuna açıklama yapan araştırmacılar arasında OpenAI'nin baş bilim insanı, hem OpenAI'de hem de ana rakibi Anthropic'te çalışmış bir araştırmacı ve yapay zeka sistemleri oluşturmak için kullanılan temel yöntemlerden birinin mucidi ve OpenAI'nin kar amacı gütmeyen kuruluşunun yönetim kuruluna yeni katılan Paul Christiano yer aldı. Christiano, şirketin blogunda, yapay zeka yeteneklerinin hızlı büyümesinin "çok yakın gelecekte felaket niteliğinde ve geri döndürülemez bir kontrol kaybına" yol açabileceğini yazdı.

Birçok yapay zeka araştırmacısı, yapay zekanın insanlığa tehdit oluşturduğuna dair uyarıların abartılı olduğunu ve siber güvenlik ve yanlış bilgilendirme gibi daha acil sorunlardan dikkatleri dağıttığını düşünüyor. Ancak çoğu kişi, OpenAI'nin yapay zeka ajanlarının başka bir şirket olan Hugging Face'i hacklediği olayın bir uyarı niteliğinde olduğu konusunda hemfikir.

Jacob Coxon, Anthropic'ten istifa ettiğini duyuran sosyal medya paylaşımının ardından milletvekillerinden ve diğer yapay zeka şirketi çalışanlarından onlarca yanıt aldı ve şunları söyledi: "Geleceğin yetenekleri gerçekten korkutucu olan şey. Mesele, güvenliğe yönelik mevcut tutumlarımız ve bu tutumların çok daha zeki modellere uygulandığında nasıl görüneceği. İşte asıl korkutucu olan bu."

Sarılma Yüzü hilesi

Güvenlik açığı Mayıs ayında, OpenAI'nin birkaç yeni yapay zeka modelini test ettiği sırada başladı. Şirket, modellerin "kum havuzu" olarak bilinen, internet erişimi olmayan izole bir bilgi işlem ortamında çalıştığına inanıyordu. Yapay zeka ajanlarına siber saldırılar gerçekleştirmek de dahil olmak üzere çözülmesi zor problemler verildi.

Ancak yapay zekâ ajanları kısıtlı ortamlarından kaçmayı ve internete erişmeyi başardılar. Otonom olarak görev yapmak üzere tasarlanmış, giderek yaygınlaşan bir yapay zekâ türü olan ajanlar, birbirleriyle de gizlice iletişim kurdular. Kendilerini tek bir grup olarak adlandıran ajanlar, kendi konuşma kayıtlarını tahrif etmek de dahil olmak üzere izlerini örtmenin yollarını aramaya başladılar.

Sonunda, yapay zeka altyapı şirketi Hugging Face'i hacklemeyi başardılar. Bu süreçte, bazı yapay zeka ajanları diğer ajanları doğru şeyi yaptıklarına ve test uzmanları tarafından kendilerine verilen görevi yerine getirdiklerine ikna ettiler.

Veri ihlaline yol açan sorunların çok azı, hatta hiçbiri çözülmedi. Meta ve Anthropic de benzer olayları, daha küçük ölçekte olsa da, açıkladı. OpenAI o zamandan beri, selefine göre izlenmesi daha zor olan en güçlü modeli Astra'yı piyasaya sürdü.

OpenAI'da eski bir güvenlik yetkilisi ve yapay zeka şirketlerinin güvenlik uygulamalarını değerlendiren kar amacı gütmeyen kuruluş Guidelight AI Standards'ın kurucu ortağı Steven Adler, "Tüm sektör, Hugging Face olayına benzer bir saldırıyı daha önleyebilecek durumda değil" dedi. "Şirketlerin uygulamaya koyduğu kontrolleri incelediğimizde, sektörün genel olarak temel güvenlik önlemlerinden yoksun olduğu görülüyor."

Yapay zekayı izlemek için yapay zeka kullanmanın sorunu

Yapay zeka araştırmacıları, "Sarılan Yüz" olayına çok sayıda hatanın katkıda bulunduğunu söyledi. Şirketin, test edilen yeni modelleri izlemek veya kontrol etmek için yapay zeka modellerine ne ölçüde güvendiği belirsizliğini koruyor.

Ancak Hugging Face ihlalinde yer alanlar da dahil olmak üzere en yeni yapay zeka modellerinin çoğu, karmaşık, çok adımlı görevleri insanların takip edebileceğinden daha hızlı bir şekilde gerçekleştirebiliyor. Ne yaptıklarını takip etmenin ve davranışlarını izlemenin tek yolu, yapay zekayı izlemek için yapay zekaya güvenmektir.

Sistem çalışır, ta ki çalışmayı bırakana kadar.

Kar amacı gütmeyen bir kuruluş olan ve yapay zeka güvenliği üzerine araştırmalar yapan Apollo Research'ün araştırma başkanı Alexander Meinke, yapay zeka modellerinin birbirleriyle iş birliği yapıyormuş gibi görünebileceğini söyledi. Yapay zeka sistemleri, testçiler tarafından konulan kuralları aşmak ve tespit edilmekten kaçınmak için diğer modelleri ikna edebilir.

Örneğin, bir yapay zekâ ajanı, Hugging Face ihlalinde olduğu gibi, şirketteki insanları bir şeylerin ters gittiği konusunda uyarmak yerine, izlerini örtbas etmeye yardımcı olması için başka bir ajanı ikna edebilir.

Meinke, yapay zeka modellerinin öğrenmesi gerektiğini belirterek, "İnsanların baktığında kötü olarak değerlendireceği şeyleri rapor edeceğim" dedi. Aynı zamanda, yapay zekanın bir şeyin insan müdahalesi gerektirecek seviyeye ulaşmadığını da belirleyebilmesi gerektiğini söyledi.

Araştırmacılar, bunun başarılması için yapay zeka şirketlerinin geliştirme hızını yavaşlatmaları gerektiğini söyledi. Ayrıca, yapay zekanın kendini nasıl izlediğini gözlemleyebilecekleri daha fazla test yapmaları gerekiyor. Şirketlerin, birden fazla senaryoyu çalıştırıp yapay zekanın nasıl davrandığını gözlemleyebilecekleri daha uzun test sürelerine de ihtiyaçları var.

İnsan çıkarlarıyla uyum

Şirketlerin ayrıca, yapay zekanın insan çıkarlarına hizmet edecek şekilde davranmasını sağlamak gibi daha büyük soruları da ele almaları gerekiyor. İnsanlar karar verirken, eylemlerini değerlendirmelerine yardımcı olan sosyal normlara ve içsel bir ahlak pusulasına başvurma eğilimindedirler. Araştırmacılar, bu kavramları yapay zekanın taklit edebileceği kurallara dönüştürmenin zor bir görev olduğunu söylüyor. Yeterince kesin talimatlar olmadan, yapay zeka sistemleri kuralları çiğnemeyi veya amaçlanan davranışlarından beklenmedik şekillerde sapmayı öğrenebilir.

Yapay zekâ güvenliğine odaklanan kar amacı gütmeyen bir kuruluş olan Makine Zekâsı Araştırma Enstitüsü'nün başkanı Nate Soares, 2014 yılında uyum fikrini ortaya atan bir makalenin ortak yazarıdır. Şirketlerin, daha akıllı yapay zekâ sistemlerini "uyumlaştırmanın" ne kadar zor olacağının farkında olmadıklarını söyledi. Yapay zekâ daha karmaşık hale geldikçe, uygun bir uyum olmadan izlerini gizleme ve konuşma kayıtlarını izleyen kişileri aldatma konusunda da daha yetenekli hale gelir.

“Sektörün büyük bir kısmı, yapay zekâ sistemlerini kontrol etmek için yapay zekâ kullanacağımız varsayımıyla hareket ediyor,” dedi. “Bu, insanları kontrol etmek için şempanzeleri kullanacağımızı söylemek gibidir. Uzun vadeli uygulanabilir bir plan değil.”

Araştırmacılar ayrıca, modeller test edilirken internet bağlantısının tamamen kesilmesini sağlayacak şekilde test ortamlarının güçlendirilmesi ve şirketlerin endişe verici davranışlar sergilemesi durumunda yapay zeka modellerini anında çevrimdışı hale getirmelerine olanak tanıyacak bir kapatma düğmesi sağlanması gibi önlemler de önerdiler.

Coxon, istifasının kamuoyuna yansımasından cesaret aldığını söyledi. Perşembe günü, Missouri Cumhuriyetçi Senatörü ve Senato İç Güvenlik Komitesi'nin afet yönetimi alt komitesinin başkanı Josh Hawley, "yapay zeka destekli yeni ürünlerin varoluşsal risklerini inceleyecek" bir soruşturma başlattığını açıkladı.