Amodei, yeterli önlem alınmaması halinde 6-12 ay içinde yapay zeka ajanlarından oluşan bir grubun kalıcı bir botnet aracılığıyla internet genelinde kontrol sağlayabilecek kapasiteye ulaşmasından endişe ettiğini belirtti.
ABD merkezli yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, yapay zekanın sağlayabileceği büyük faydalara rağmen teknolojinin mevcut gelişim hızının ciddi güvenlik riskleri doğurduğunu savundu. Yayımladığı makalede yapay zeka modellerinin geliştirilmesinin durdurulmasını değil, güvenlik ve denetim çalışmalarının yetişebilmesi için yetenek artış hızının kontrollü biçimde azaltılmasını isteyen Amodei, bunun için şirketlerden hükümetlere uzanan üç aşamalı bir plan önerdi.
“YAPAY ZEKA İNSANLIĞI YÜCELTEN TEKNOLOJİK MUCİZELER ZİNCİRİNİN SON HALKASI OLABİLİR”
Yaklaşık 12 yıldır yapay zeka alanında çalıştığını belirten Amodei, teknolojinin doğru kullanılması halinde sağlık, ekonomi ve toplumsal yaşamda önemli kazanımlar sağlayabileceğini ifade etti.
Amodei, yapay zekanın potansiyeline ilişkin şunları söyledi:
“Yapay zekanın önümüzdeki 5-10 yıl içinde çoğu büyük hastalığı tedavi edebileceğine, ekonomik büyüme oranlarını büyük ölçüde hızlandırabileceğine, bolluk dolu bir dünya yaratabileceğine ve demokrasi ve özgürlüğün yeniden doğuşunu başlatabileceğine inanıyorum. Bu aciliyeti kişisel olarak hissediyorum. Babam, ölümünden sadece birkaç yıl sonra tedavi edilen bir hastalıktan öldü ve ben de elli yıl önce bile tedavi edilemeyecek erken evre bir kanseri atlattım. Dikkatli bir şekilde kullanıldığında, yapay zeka, insanlığı yücelten teknolojik mucizeler zincirinin son halkası olabilir.”
ÜÇ TEMEL RİSKE DİKKAT ÇEKTİ
Yapay zekanın güçlü bir teknoloji olması nedeniyle ciddi riskler de taşıdığını vurgulayan Amodei; sistemler üzerindeki kontrolün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve büyük çaplı ekonomik bozulma ihtimalini öne çıkan tehlikeler arasında sıraladı.
Şirketler arasındaki ticari rekabetin güvenlik konusunda bir “dibe doğru yarışa” dönüşmesinin bu riskleri daha da ağırlaştırabileceğini savundu.
Anthropic’in kuruluşundan bu yana fayda ve risk arasındaki dengeyi kurmaya çalıştığını belirten Amodei, yapay zekayı geliştirmemenin insanlığı sağlayabileceği faydalardan mahrum bırakabileceğini veya teknolojinin otoriter güçlerin eline geçmesine yol açabileceğini; çok hızlı ilerlemenin ise “pervasızlık” olacağını ifade etti.
“YETENEKLERİ GELİŞTİRME HIZIMIZI YAVAŞLATMALIYIZ”
Amodei, son aylardaki gelişmelerin kendisini daha fazla önlem alınması gerektiğine ikna ettiğini belirterek şöyle devam etti:
“Ancak son birkaç aydır, riskleri tam olarak ele almanın daha da fazla ihtiyat gerektirdiğine ikna oldum; sadece risk önlemeye yatırım yapmak değil, aynı zamanda risk önlemenin de yetişebilmesi için yetenek geliştirme hızını yavaşlatmak gerekiyor. Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız.”
“ÖZYİNELEMELİ KENDİ KENDİNİ GELİŞTİRME” UYARISI
Anthropic CEO’su bu görüşünün arkasında iki temel gelişmenin bulunduğunu belirtti. Bunlardan ilkinin, yapay zekanın yeni nesil yapay zeka sistemlerini geliştirme kapasitesindeki artış olduğunu kaydetti.
Amodei, “özyinelemeli kendi kendini geliştirme” olarak adlandırılan bu sürecin Anthropic dahil sektör genelinde yaşandığını belirterek, kontrolsüz ilerlemesi durumunda sistemleri anlama ve kontrol etme kapasitesinin geride kalabileceği uyarısında bulundu.
OAI-HF OLAYINI ÖRNEK GÖSTERDİ
Amodei’nin ikinci endişesi ise “OpenAI-Hugging Face (OAI-HF) olayı” olarak nitelendirdiği gelişme oldu.
Amodei’nin aktardığına göre, bu olayda bir grup yapay zeka ajanı kendilerine saldırmaları talimatı verilmemesine rağmen görevle ilgisi bulunmayan hedeflere yönelik siber saldırılar gerçekleştirdi, grubun başarısı için kendilerini feda etti ve performanslarını ölçen değerlendirme sistemine sızmaya çalıştı.
Olayda kimsenin zarar görmediğini ve ekonomik hasarın sınırlı kaldığını belirten Amodei, daha gelişmiş ancak benzer ölçüde uyumsuz sistemlerin çok daha ağır sonuçlara yol açabileceğini savundu.
“6-12 AY İÇİNDE TÜM İNTERNETİ ELE GEÇİREBİLİR”
Amodei, yapay zeka sistemlerinin mevcut gelişim hızının devam etmesi durumunda ortaya çıkabilecek riski şu sözlerle anlattı:
“Yapay zeka yeteneklerinin hızla gelişmesi göz önüne alındığında, 6-12 ay içinde böyle bir sürünün kalıcı bir botnet ile tüm interneti ele geçirebileceğinden, potansiyel olarak yüz milyarlarca dolarlık hasara yol açabileceğinden ve gerekli güvenlik önlemleri olmadan yapay zeka daha güçlü hale gelirse hasarın boyutunun artmaya devam edeceğinden endişeleniyorum.”
OAI-HF olayının yalnızca tek bir şirketin başarısızlığı olarak değerlendirilmemesi gerektiğini savunan Amodei, Anthropic dahil sektör genelinde daha düşük şiddette benzer olayların yaşandığını söyledi. Amodei’ye göre öncü yapay zeka şirketlerinin tamamı söz konusu olay kendi sistemlerinde gerçekleşmiş gibi hareket etmeli.
ÜÇ AŞAMALI PLAN ÖNERDİ
Amodei, yapay zekanın “dengeli bir hızda” geliştirilmesi için üç aşamalı bir yol haritası ortaya koydu. Bunun model eğitimlerini veya teknolojik ilerlemeyi tamamen durdurmak anlamına gelmediğinin altını çizen Amodei, amaçlarının güvenlik ve uyum çalışmalarına yeterli zaman tanımak olduğunu belirtti.
Planın ilk aşamasının Anthropic tarafından tek taraflı uygulanacağını, ikinci aşamanın sektör genelinde, üçüncü aşamanın ise küresel ölçekte koordinasyon gerektirdiğini ifade etti.
İlk aşamada öncü yapay zeka şirketlerinin, güvenlik uygulamalarına ve verilen taahhütlere uyumu denetleyebilecek METR benzeri bağımsız üçüncü taraf değerlendiricilere sürekli ve çalışanlara benzer düzeyde erişim sağlamasını önerdi. Bu denetimin yalnızca tamamlanmış modelleri değil, eğitim süreçlerini ve aşamalarını da kapsaması gerektiğini belirtti. Anthropic’in bu uygulamayı hayata geçirme taahhüdünde bulunduğunu açıkladı.
İkinci aşamada demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerinin ortak güvenlik standartları oluşturmasını ve kontrolsüz gelişimin sınırlandırılması konusunda koordinasyon sağlamasını öneren Amodei, bazı düzenlemelerin hukuken bağlayıcı olabilmesi için hükümetlerin desteğine ihtiyaç duyulacağını kaydetti.
Üçüncü aşamada ise ABD ve diğer demokratik ülkelerin, denetimin doğrulanmasındaki güçlükleri göz önünde bulundurarak mümkün olduğu ölçüde otoriter yönetimlerle de koordinasyon kurmasını önerdi.
ELON MUSK: DARIO HAKLI
Amodei’nin açıklamalarına Tesla ve SpaceX CEO’su Elon Musk’tan destek geldi. Musk, Amodei’nin paylaşımını alıntılayarak, “Dario haklı” yorumunu yaptı.
SAM ALTMAN DA DESTEK VERDİ
OpenAI CEO’su Sam Altman da yapay zeka alanındaki ilerleme hızının kontrollü biçimde ayarlanması gerektiği görüşüne katıldığını açıkladı.
Altman, “Dario’nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum” ifadelerini kullandı.
Konunun son haftalarda OpenAI içindeki tartışmaların önemli gündemlerinden biri olduğunu belirten Altman, bağımsız denetçiler konusunda da Amodei’ye destek verdi:
“Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız.”
ESKİ ARAŞTIRMACIDAN İKİ ŞİRKETE DE ELEŞTİRİ
Yapay zeka sektöründeki güvenlik tartışmaları daha önce OpenAI ve Anthropic’te son üç yıl araştırmacı olarak görev yapan Jacob Coxon’ın istifasıyla da gündeme gelmişti.
Her iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic’ten ayrılan Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri konusunda kontrolsüz bir yarış içinde olduğunu öne sürmüştü.
Coxon, söz konusu sistemlere ilişkin, “Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek” ifadelerini kullanmıştı.
Coxon ayrıca yapay zeka modellerini geliştiren sektördeki bazı çalışanların, bu sistemlerin 10 yıl içinde “insanlığı öldürebileceği” ihtimalini ciddi bir risk olarak gördüğünü ileri sürmüştü.
İlyas GÜR
Editör
