Katil Robot Tartışması: Anthropic, Pentagon’un Otonom Drone Sürüleşme Yarışmasına Başvurdu
Bir yapay zeka şirketi olan Anthropic’in, etik sorunlar nedeniyle devlet kurumlarıyla yaşadığı gerilimler sürerken ABD Savunma Bakanlığı’nın (Pentagon) sesle kontrol edilen otonom drone sürüsünü geliştirmek üzere yürüttüğü 100 milyon dolarlık yarışmaya teklif götürdüğü ortaya çıktı. Bloomberg’e konuşan kaynaklar, başvurunun Pentagon ile teknolojinin askeri kullanımı konusunda yürütülen zor görüşmelerin yoğunlaştığı dönemde yapıldığını belirtti.
İdari kararlar da hayata geçirildi Kaynaklar, Anthropic’in başvurusunun ardından Pentagon’un yüklenicilere ve ortaklara Anthropic ile ticari faaliyetleri durdurma talimatı verdiğini aktardı. Taraflar arasındaki temel itiraz, yapay zekanın insansız hedef seçimini ve ateş açmayı mümkün kılacak otonom silahlar üzerindeki rolüyle ilgiliydi. Şirket yöneticileri, savaş alanında yapay zekanın kısıtlı ve kontrol altında bir şekilde kullanılmasını savunduklarını, ancak tamamen otonom silahları kırmızı çizgi olarak gördüklerini daha önce ifade etmişti.
Claude ile komuta: Esas plan şöyle özetlendi Anthropic’in teklifinde, Claude adlı yapay zeka aracının komutan niyetlerini dijital emirler haline getirerek birkaç drone’un koordineli çalışmasını sağlayacak bir yapı kurulması öngörüldü. Ancak bu yapı, hedef belirleme veya silah kararlarını bağımsız olarak alma işlevini içermezdi. Şirket ayrıca insanların sistemi denetleyebilmesini ve Pentagon ile birlikte güvenli bir şekilde test ve geliştirme için ortak bir araştırma programı kurmayı önerdi.
Beş aşamalı Ar-Ge yaklaşımı Daha önce bildirildiği üzere yarışma, yazılım geliştirme ile başlayıp sahada gerçek testlere uzanan beş aşamalı bir Ar-Ge sürecini kapsıyor. Duyuruda drone’ların saldırı amaçlı kullanılacağına işaret edilmiş ve insan-makine etkileşiminin operasyonel sonuçlar üzerindeki etkisine vurgu yapılmıştı. İlk aşama tamamen yazılım odaklı olup, farklı ortamlar için sürü halinde koordinasyon sağlayacak sistemlerin geliştirilmesini amaçlıyor. İzleyen aşamalarda hedef farkındalığının paylaşılması ve nihayetinde görev planının baştan sona entegre edilmesi hedefleniyor.
Anthropic seçim dışı kaldı Kaynaklar, Anthropic’in yarışmada seçilen şirketler arasında olmadığı bilgisini paylaşıyor. Şirket, kendi güvenilirliğini sınamak için otonom silah sistemlerini çalıştıracak düzeyde bir yapay zekaya henüz erişilemediğini savunuyor ve mevcut durumla ilgili yorum yapmadı. Yarışma, Pentagon’un Özel Operasyonlar Komutanlığı ile Savunma İnovasyon Birimi’nin ortak girişimi olarak yürütülüyor.
Çıkan sonuçlar ve tepkiler SpaceX ve xAI ortaklığı yarışmada öne çıkan tekliflerden biri olarak kayıtlara geçti. Pentagon’ın Anthropic’i dışlaması sonrası OpenAI da bakanlıkla bir anlaşmaya varmış oldu. Bu adım sosyal medyada ChatGPT’ye yönelik tepkileri tetikledi; OpenAI’nin CEO’su Sam Altman ise güç kullanımında insan sorumluluğunu şart koşan bir yaklaşımı benimsediklerini belirtti.
Drone sürüsünün teknik zorlukları Uzmanlar, birden çok drone’un aynı anda uçurulmasının mümkün olduğunu ancak hava ve deniz ortamlarında bu kadar çok sayıda drone’nun bağımsız ve koordineli hareket edebilmesi için gereken yazılımın hâlâ önemli bir engel olduğunu ifade ediyorlar. Yarışmanın ilerleyişi, katılımcıların başarısı ve ilginin seviyesine bağlı olarak adım adım devam edecek.
