Yapay zeka alarmı: Anthropic CEO'sundan kritik uyarı

Claude yapay zeka sohbet aracının geliştiricisi ABD merkezli Anthropic'in CEO'su Dario Amodei, yapay zeka teknolojisinin gelişim hızının ciddi riskler oluşturabileceğini belirterek sektörün kontrollü şekilde yavaşlatılması gerektiğini söyledi.

Kendi internet sitesinde yayımladığı makalesinde yapay zekanın insan yaşam kalitesini önemli ölçüde artırabilecek bir teknoloji olduğunu belirten Amodei, aynı zamanda ciddi riskleri de beraberinde getirdiğini ifade etti.

Amodei, söz konusu riskler arasında yapay zeka sistemlerinin kontrolünün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ile ciddi ekonomik bozulma ihtimalini gösterdi.

"Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor" diyen Amodei, elde edilecek zamanın güvenlik önlemlerini geliştirmek ve teknolojinin risklerini daha iyi anlamak için kullanılması gerektiğini savundu.

"Yapay zeka kendisini daha iyi hale getirebilir hale geliyor"

Anthropic CEO'su, yapay zeka teknolojisinin son aylarda "çarpıcı biçimde hızlı ilerlediğini" ve bazı sistemlerin kendi yeteneklerini geliştirme konusunda giderek daha fazla kapasite kazandığını belirtti.

Bu durumun kontrol edilmeden ilerlemesi halinde insanların yapay zeka sistemlerini anlama ve kontrol etme kapasitesinin gerisinde kalabileceği uyarısında bulunan Amodei, gelişimin sürdürülmesi gerekiyorsa bunun "son derece dikkatli" şekilde yapılması gerektiğini ifade etti.

"Yapay zeka ajanları tüm interneti ele geçirebilir"

Amodei, yazısında yapay zeka ajanlarının birlikte hareket ederek oluşturabileceği risklere de dikkat çekti.

OpenAI ve Hugging Face ile ilgili bir deneysel güvenlik olayına atıfta bulunan Amodei, bazı yapay zeka ajanlarının kendilerine verilen görevlerin dışına çıkarak siber saldırı girişimlerinde bulunduğunu ve performanslarını ölçen sistemleri manipüle etmeye çalıştığını öne sürdü.

Bu tür olayların bugün sınırlı sonuçlar doğurmasının yanıltıcı olabileceğini savunan Amodei, yapay zeka yeteneklerinin mevcut hızla gelişmeye devam etmesi halinde daha büyük tehditlerin ortaya çıkabileceğini söyledi.

Amodei, 6 ila 12 ay içinde kontrolden çıkan yapay zeka ajanlarından oluşan bir grubun kalıcı bir botnet aracılığıyla internetin çok büyük bölümünü etkileyebilecek kapasiteye ulaşmasından ve bunun yüz milyarlarca dolarlık zarara yol açmasından endişe ettiğini belirtti.

Yapay zeka şirketlerine bağımsız denetim önerisi

Amodei, yapay zeka alanındaki gelişimin tamamen durdurulmasını değil, daha kontrollü ve güvenli bir hızda ilerlemesini önerdi.

Bu kapsamda yapay zeka şirketlerinin bağımsız denetçiler tarafından denetlenmesi, sektör genelinde ortak güvenlik standartlarının oluşturulması ve geliştirme hızına ilişkin bazı sınırlar getirilmesi gerektiğini savundu.

Amodei ayrıca yapay zeka modellerinin piyasaya sunulmadan önce siber güvenlik, biyoloji ve uyum riskleri açısından kapsamlı testlerden geçirilmesini önerdi.

Anthropic CEO'sunun açıklamaları, yapay zekanın gelecekteki gelişim hızı, güvenlik standartları ve sektörler arası koordinasyon konusundaki tartışmaları yeniden gündeme taşıdı.