Açık kaynak modeller yasaklanmamalı

---

---

Anthropic CEO’su Dario Amodei, açık kaynak yapay zeka modellerine karşı olduğu iddialarını reddetti. Amodei’ye göre asıl tehlike açık modeller değil, Çin başta olmak üzere yönetimlerin yapay zekayı askeri üstünlük ve baskı aracı hâline getirmesi.

Gelişmelerden anında haberdar olun.

Dario Amodei en sonunda sessizliğini bozdu. Tecrübeli yönetici, Anthropic’in hiçbir zaman genel bir yasak çağrısı yapmadığını söyledi ve tehlikeli yeteneklere sahip olmayan açık kaynak modellerin kamunun yararına olduğunu ifade etti. Amodei’ye göre bu sistemler, sadece çalıştırma maliyeti karşılığında işletmelere, geliştiricilere ve araştırmacılara önemli değer sunuyor, aynı zamanda yenilikleri destekliyor.

Jensen Huang’ın Çağrısı Ortalığı Karıştırdı

Nvidia CEO’su Jensen Huang’ın Meta, Microsoft, Hugging Face, Mistral vb… şirketlerle birlikte yayınladığı açık çağrı olayları farklı bir boyuta taşıdı. Bu çağrı açık kaynak modellere yönelik kısıtlamalara karşı çıkıyordu. Amodei ise gerçek kaygısının Çinli AI araçlarının günlük kullanımı olmadığını vurguladı. Anthropic CEO’su asıl riskin yönetimlerin güçlü yapay zeka sistemleriyle kalıcı askeri üstünlük kurması ve toplumsal baskıyı artırmasında yattığını belirtiyor.

Küresel Yapay Zeka Denetimi Önerisi

Amodei, biyolojik saldırılar ve siber güvenlik tehditleri konusunda açık kaynak araçların daha zor denetlenebileceğini savundu. Çözüm olarak da Çin’in gelişmiş çiplere erişiminin sınırlandırılmasını, model damıtma yöntemlerine karşı daha sert adımlar atılmasını ve küresel güvenlik testleri uygulanmasını önerdi. Ancak bu sistemin etkili olması için Çin dâhil tüm ülkelerin aynı denetim mekanizmasına katılması gerektiğini de kabul etti.

Bilmeyenler için şunu da açıklayalım; damıtma tekniği güçlü bir yapay zeka modelinin verdiği cevapların başka bir modeli eğitmek için kullanılmasına dayanıyor. Böylece yeni model, kaynak koda erişmeden öğretmen modelin davranışlarını ve bazı yeteneklerini taklit edebiliyor.