Senato Demokratları, otonom silahlara ilişkin antropik sınırlamaların sistemleştirilmesi için yasa tasarısını öne sürüyor.
PolitikaAIReportSenato Demokratları, Anthropic'in otonom silahlar ve kitlesel gözetleme konusundaki kırmızı çizgilerini 'düzenlemeye' çalışıyorAdam Schiff, otonom silahlar söz konusu olduğunda Pentagon veya AI CEO'larının sözlerine güvenmek istemiyor.
Adam Schiff, otonom silahlar söz konusu olduğunda Pentagon'un veya AI CEO'larının sözlerine güvenmek istemiyor.
The Verge, Getty ImagesPart OfAI vs. Pentagon: öldürücü robotlar, kitlesel gözetleme ve kırmızı çizgilertüm güncellemeleri görün Lauren Feiner, The Verge'de Silikon Vadisi ile Capitol Hill'in kesişimini kapsayan kıdemli bir politika muhabiridir. 5 yılını CNBC'de teknoloji politikaları üzerine çalışarak, antitröst, gizlilik ve içerik denetleme reformu hakkında yazılar yazarak geçirdi. Anthropic'in Pentagon'la mücadelesi Kongre'ye kadar genişliyor. Senatör Adam Schiff (D-CA), Anthropic'in kırmızı çizgilerini "düzenlemek" ve insanların yaşam ve ölüm meselelerinde nihai kararları vermesini sağlamak için yeni bir yasa tasarısı üzerinde çalışıyor ve Senatör Elissa Slotkin (D-MI) yakın zamanda Savunma Bakanlığı'nın Amerikalıları toplu gözetlemek için yapay zekayı kullanma yeteneğini sınırlayan bir yasa tasarısı sundu.Trump yönetimi, ordunun yapay zeka modellerini nasıl kullanabileceğine dair sınırlamalar getirerek bunu bir tedarik zinciri riski olarak nitelendirdikten sonra bu ayın başlarında Anthropic'i kara listeye aldı. Anthropic, hükümeti anayasal haklarını ihlal etmekle suçlayarak dava açtı. Pentagon'un, büyük rakip OpenAI tarafından imzalanan bir anlaşmaya direnerek, ürünlerini tamamen otonom silahlar ve kitlesel yurt içi gözetleme için kullanmaktan kaçınması konusunda ısrar etti. Anthropic, idarenin bunu tedarik zinciri riski olarak etiketleme kararını mahkemenin engelleyip engellemeyeceğini duymayı bekliyor.
Schiff, The Verge'e geçen hafta yaptığı bir telefon görüşmesinde "Pentagon'un Anthropic'i hedef aldığını görünce paniğe kapıldım çünkü Anthropic sadece Amerikan halkının büyük çoğunluğunun kabul ettiği politikalar üzerinde ısrar etmeye çalışıyordu" dedi. "Bu yüzden geri dönüp şirketi öldürmeye çalışacakları, yapay zekanın önde gelen liderlerinden birini öldürecekleri fikri çok düşmanca, diktatörce bir davranış. Amerika'nın yapay zekadaki liderliğini geriletecekler ve Anthropic en iyilerden biri."
Schiff'in ofisi hâlâ mevzuat taslağını hazırlama sürecinde ancak Schiff amacın yapay zekanın "belirli yasa dışı amaçlarla" kullanılmamasını sağlamak olduğunu söyledi. Slotkin yakın zamanda, yerel kitlesel gözetime ve insan müdahalesi olmadan otonom ölümcül silahların kullanımına karşı korumaları güçlendirmek için AI Korkuluklar Yasası adı verilen benzer bir yasa tasarısını yakın zamanda sundu. Schiff'in tasarısının önemli noktalarda nasıl farklılaşacağı veya aynı doğrultuda olacağı henüz belli değil, ancak benzer zemini kapsıyor. Schiff sözcüsü Ruby Robles Perez, ofisinin tasarıyı tamamlamadan önce paydaşlar ve sektör liderleriyle görüşmeye devam ettiğini söyledi. Slotkin'in tasarısı, Savunma Bakanlığı'nın bir nükleer silahı patlatmak veya ABD'deki insanları veya grupları takip etmek için yapay zekayı kullanma yeteneğini kısıtlıyor, ancak aynı zamanda "olağanüstü koşullar"ın otonom ölümcül silahları konuşlandırmak için yapay zeka kullanımını gerektirdiği durumlarda Savunma Bakanı'nın Kongre'ye nasıl bildirimde bulunabileceğini de ana hatlarıyla belirtiyor.
Schiff'in taslağını hazırladığı tasarıda, neyin otonom silah veya yurt içi gözetleme teşkil ettiğine ilişkin ayrıntılar hâlâ tartışma konusu ancak Schiff, aynı zamanda Biden yönetiminin mevcut çerçevelerini de incelediklerini söyledi. Schiff, "Bu dilin vatandaş olmayanlara nasıl uygulanacağı da dahil olmak üzere tüm bu soruları henüz çözmedik, ancak ülkede yasal olarak bulunan insanlar korunmayı hak ediyor. Ve insan hakları meselesi olarak konu bunun da ötesine geçebilir" dedi.
“Yaşam ve ölümle ilgili bu tür bir sorumluluğu bir algoritmaya devretmek istemiyoruz”