Yapay Zeka Az Kalsın Savaş Çıkarıyordu: ABD ve Çin’i Savaşın Eşiğine Getirdi

ABD ordusu, Orta Doğu’da bulunan bir Çin gemisi hakkında hazırlanan hatalı bir istihbarat raporu nedeniyle ciddi bir krizin eşiğinden döndü. Yaşanan bu yapay zeka askeri istihbarat hatası, iki nükleer güç arasında neredeyse bir savaş başlatılmasına neden oluyordu.

CNN kaynaklarına göre, rapor geminin nükleer silah programında kullanılan bileşenleri taşıdığını iddia ediyordu. Askeri yetkililer bu rapor üzerine gemiyi durdurmak için operasyon planları hazırladı ve personel harekete geçti.

Hatalı İstihbaratın Askeri Kararlara Etkisi

Silahlı ABD askeri personeli gemiye çıkmaya hazırlanırken askeri uçaklar da operasyon için havalanmıştı. Ancak operasyondan hemen önce yetkililer raporu daha ayrıntılı bir şekilde incelemeye karar verdi.

İncelemeler sonucunda raporun yapay zeka desteğiyle hazırlandığı ve kullanılan sohbet botunun gemideki malzemeleri yanlış tanımladığı anlaşıldı. İstihbarat raporunun tamamen hatalı olduğu ortaya çıkınca operasyon durduruldu.

Olayın merkezinde, ABD Özel Operasyonlar Komutanlığı Pasifik birimi tarafından elde edilen gemi yük manifestosu yer alıyordu. Bir analist, geminin taşıdığı malzemeleri değerlendirmek için kimliği açıklanmayan bir sohbet botuna başvurdu.

Yapay zeka, verileri değerlendirirken geminin nükleer silah programına ait malzemeler taşıdığı sonucuna vardı. Kullanılan yapay zekanın ticari bir model mi yoksa ABD hükümetinin kullandığı özel bir askeri ürün mü olduğu henüz açıklanmadı.

Eski bir üst düzey yetkili, hükümet bünyesindeki araçların büyük ölçüde ticari yapay zeka ürünlerinin değiştirilmiş sürümlerine dayandığını belirtti. Bu sistemlere kamu kurumlarının sahip olduğu gizli istihbarat verileri de entegre edilebiliyor.

Raporu hazırlayan analistin, yapay zekanın hatalı değerlendirmesini temel alarak yine yapay zekaya standart bir istihbarat raporu oluşturttuğu kaydedildi. Bu durum, hatalı çıktının resmi görünümlü bir istihbarat belgesine dönüşmesine yol açtı.

Askeri Operasyonlarda Yapay Zeka Güvenliği

ABD ordusu, istihbarat analizi ve hedef belirleme gibi alanlarda yapay zeka kullanımını hızla yaygınlaştırıyor. Savunma Bakanı Pete Hegseth, ocak ayında açıkladığı Yapay Zeka Hızlandırma Stratejisi ile bürokratik engellerin kaldırılmasını hedefledi.

Ancak ordunun farklı birimleri yapay zeka araçlarını farklı güvenlik standartlarıyla kullanıyor. Üretilen bilgileri doğrulamak için ortak bir sistemin bulunmaması, hatalı sonuçların askeri kararları etkileme riskini artırıyor.

Kaynaklar, analistlerin raporları daha hızlı hazırlamaları yönündeki baskının hata riskini yükselttiğini belirtiyor. Özellikle genç çalışanların yapay zeka çıktılarına daha fazla güvenmesi, sistemin güvenilirliğini sorgulatıyor.

Yapay zeka, istihbarat analizinin yanı sıra saldırı hedeflerinin belirlenmesinde de aktif olarak kullanılıyor. İnsan denetiminin sivil kayıpları önlemedeki rolüne ilişkin net kuralların bulunmaması ciddi bir endişe kaynağı.

Hatalı verilerle çalışan sistemler, yanlış hedef seçimine ve can kayıplarına yol açma potansiyeline sahip. Anthropic’in Claude modeli, İran’a yönelik saldırılarda ve Minab’daki okul saldırısı gibi tartışmalı operasyonlarda kullanıldı.

Uzmanlar, yapay zeka kaynaklı hataların arttığını ve bu durumun savaş suçu riski taşıdığını vurguluyor. Askeri karar alma süreçlerinde teknolojinin bu denli kontrolsüz kullanımı, uluslararası güvenlik dengelerini tehdit ediyor.

Sizce askeri operasyonlarda yapay zeka kullanımına ne kadar güvenilmeli ve insan denetimi hangi seviyede tutulmalı?