ABD’den tartışmalı karar: Fazla güçlü yapay zeka modelleri askıya alındı

ABD’nin önde gelen yapay zeka şirketlerinden Anthropic’in "fazla güçlü" olarak nitelendirilen yeni yapay zeka modelleri "Fable 5" ve "Mythos 5", şirket tarafından piyasaya sürülmesinden birkaç gün sonra Beyaz Saray’ın talebiyle erişime kapatıldı. Beyaz Saray’ın modelleri yabancıların erişimine kapatmaya yönelik kontrolcü hamlesi, Avrupa başta olmak üzere dünyada endişeye neden oldu.

ABD hükümetinin 12 Haziran Cuma günü geç saatlerde ani bir kararla, yapay zeka şirketi Anthropic’in en gelişmiş iki yeni modelinin ABD vatandaşı olmayanlar için kullanımının askıya alınması talimatı vermesi, dünyanın birçok ülkesinde yankı uyandırdı. Anthropic tarafından Cuma günü yayınlanan sürpriz açıklamada, ABD hükümetinin şirketten "Claude Fable 5" ve "Claude Mythos 5" modellerine ülke dışından erişimin durdurulmasının istendiği ifade edildi. Ulusal güvenlik risklerini gerekçe gösteren talimatın, "ABD içinde veya dışında bulunan tüm yabancı ülke vatandaşlarını kapsadığı ve buna Anthropic’in yabancı uyruklu çalışanlarının da dahil olduğu" ifade edildi.

Diğer yandan, şirket, kullanıcıların ABD vatandaşı olup olmadığını anlık ve kusursuz bir şekilde tespit etmenin mümkün olmaması nedeniyle, yasal risklerden kaçınmak adına modelleri tüm müşterileri için dünya genelinde devre dışı bırakmak zorunda kaldı.

Anthropic, Beyaz Saray yetkilileriyle görüşüyor

ABD’li yapay zeka devinin üst düzey teknik personeli, karar sonrasında Pazar gününden itibaren Beyaz Saray yetkilileriyle görüşmeler gerçekleştirmeye başladı. Anthropic tarafından yapılan açıklamada ABD hükümetinin Fable 5’in güvenlik önlemlerini aşmanın (jailbreak etmenin) bir yolu bulunduğuna inandığını ve bu şekilde modelin yapmaması gereken şeyleri yapmaya ikna edilebildiğinden endişe duyduğu ifade edildi. "Jailbreak" bir siber ağı korumak için tasarlanmış yazılım kısıtlamalarının aşılması olarak tanımlanıyor. Bu sayede bilgisayar korsanları, engellenmiş özellikleri kullanabiliyor veya hassas bilgilere erişebiliyor.
Şirket açıklamasında, "Hükümetin talimatına temel oluşturduğunu düşündüğümüz raporu inceledik ve burada gösterilen yetenek seviyesinin diğer modellerde de yaygın olarak mevcut olduğunu doğruladık" denildi.

Yaşanan durumun bir yanlış anlaşılma olduğunu savunan Anthropic, karara itiraz edildiğini ve erişimin tekrar sağlanması için yetkililerle görüşmelerin sürdüğünü açıkladı.

Modelin "siber silah" olarak kullanılmasından endişe ediliyor

Antrhopic’in yeni modelinin herhangi bir dış yardım almadan güvenlik açıklarını tespit edebilmesi, yapay zeka aracının "jailbreak" edilerek sınırlandırmaları kaldırılması halinde bunun kötü niyetli kişilerin elinde bir siber silaha dönüşmesinden endişe ediliyor. Bankacılık gibi kritik sektörlere siber saldırıları kolaylaştırması ve hızlandırmasından endişe edilen araç, "fazla güçlü" olması nedeniyle test sürecinde sadece sınırlı sayıda kuruluşun kullanımına açılmıştı.

Claude Fable 5’in piyasaya sürülmesinden önce finans, teknoloji ve kamu sektöründeki liderler, modelin kendi sistemlerindeki açıkları test etmek amacıyla sınırlı erişime açılmasının ardından ürünün piyasaya sunulması konusunda endişelerini dile getirmişti. Anthropic de aracı sadece birkaç kuruluşun kullanımı için erken erişime açtığını çünkü modelin bilgisayar sistemlerini istismar etme veya hack’leme kapasitesi nedeniyle tehlikeli olabilecek kadar "zeki" olduğunu belirtmişti.
Anthropic, Claude Fable 5’i piyasaya sürmeden önce modelin "yayınlanamayacak kadar güçlü" olduğunu da iddia etmiş fakat bu ifadeler, birçok çevre tarafından abartılı bir tanıtım ve pazarlama söylemi olarak nitelendirilmişti.

Karar, Avrupa ve dünyada endişeye neden oldu

Anthropic’in son modellerinin ani bir şekilde askıya alınmasından en çok etkilenen bölgelerin başında Avrupa geldi. Avrupa Birliği üyesi birçok ülke, Anthropic’in yeni ürünü Mythos’un kendi sistemlerinin güvenliğinde kullanılmasına yönelik muhtemel uygulamalar konusunda şirketle görüşmeler yürütüyordu. Avrupa Komisyonu, dün yayınlanan açıklamada ABD yönetiminin ihracat kontrol talimatının sonuçlarının değerlendirildiğini duyurdu. Komisyon sözcüsü, "Piyasaya son derece yetenekli yeni nesil yapay zeka modellerinin çıktığını görüyoruz. Bu modeller siber savunma dahil önemli faydalar sunuyor ancak beraberinde ciddi siber güvenlik endişelerini de getiriyor. Ancak bu çerçevede alınan tedbirlerin ortaklara karşı ayrımcı olmaması gerektiğine inanıyoruz" denildi. Açıklamada, "Bu gelişme, Avrupa’nın teknolojik egemenliğini neden geliştirmesi gerektiğinin göstergesidir" ifadelerine yer verildi.
Kanada Başbakanı Mark Carney de benzer bir açıklama yaparak, yaşananların "az sayıda güçlü yapay zeka aracına aşırı bağımlılığın risklerini ortaya koyduğunu" söyledi.

"Yapay zeka savaşı çoktan başladı"

ABD’nin yapay zeka sektörü üzerindeki kontrolünün bir göstergesi olarak değerlendirilen karara tepki gösteren Fransa Cumhurbaşkanı Emmanuel Macron’un partisi Renaissance’ın cumhurbaşkanı adayı Gabriel Attal ise "Yapay zeka savaşı çoktan başladı" dedi. İran’ın küresel petrol ticareti açısından kritik öneme sahip Hürmüz Boğazı’nı bir baskı aracı olarak kullanmasına gönderme yapan Attal, "Başkalarına güvenmek, bizi savunmasız hale getiriyor. ABD’nin kararı bunun delili. Anthropic, ABD’nin Hürmüz Boğazı’dır" dedi.

Anthropic, ABD hükümeti ile daha önce de anlaşmazlık yaşamıştı

Bu olay, ABD hükümeti ve Anthropic arasındaki ikinci büyük çaplı anlaşmazlık oldu. Şirket, bu yılın başında ABD hükümetinin kullanımına yönelik yapay zeka güvenlik önlemlerini değiştirmeyi reddetmiş ve bu adım şirketin Trump yönetimiyle karşı karşıya gelmesine neden olmuştu.