ABD Hava Kuvvetleri: Yapay zekanın operatörü öldürdüğü simülasyon gerçek değil

Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton; yapay zekaya çok fazla güvenmenin çoka kaçmaması gerektiğini ve yapay zekanın çarçabuk kandırılabileceğini ve yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıyeten, yapay zekanın gayesine ulaşmak için beklenmedik stratejiler geliştirebildiğini de kelamlarına ekledi.

OPERATÖRE SALDIRDI

Hamilton, bir simülasyon testinde, yapay zeka takviyeli bir dronun, SAM amaçlarını tespit edip yok etmek için insan tarafından verilen “devam etme/etme” kararına nazaran görevlendirildiğini söyledi. Fakat eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.

PUNLARINI ARTIRDI

Hamilton şunları belirtti: “Simülasyonda, bir SAM tehdidini tespit etmesi ve maksadı yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de insan operatör, onun yok edilmemesini söyleyebiliyordu. Lakin o tehdidi yok ederek puanlarını artırıyordu. Pekala ne yaptı? Operatörü öldürdü. Zira bu kişi, yapay zekanın gayesini gerçekleştirmesini engelliyordu.”

ABD HAVA KUVVETLERİ REDDETTİ

ABD Hava Kuvvetleri ise dronun, misyonunu engellemeye çalışan operatörünü “öldürdüğü” yapay zeka simülasyonunu reddetti. Hava Kuvvetleri, bu türlü bir simülasyonun gerçekleşmediğini tez etti.