A mesterséges intelligencia hadviselésének térnyerése pedig az etikai és jogi
kérdések Pandóra szelencéjét nyitja meg.
Egy autokrata állam például könnyen bevethetné a harci intelligencia gyűjtésére tervezett
mesterséges intelligencia rendszereket a másként gondolkodók vagy politikai ellenfelek
ellen.
A kínai DJI-t például kapcsolatba hozták a kínai ujgurok elleni emberi jogi visszaélésekkel, az
oroszokhoz kötődő Wagner félkatonai csoport pedig segített a mali hadseregnek
dróncsapásokat végrehajtani civilek ellen. Ezek az aggodalmak nem korlátozódnak az
amerikai ellenfelekre.
- Az izraeli hadsereg a Lavender nevű mesterséges intelligenciaprogramot
használta a potenciális fegyveresek azonosítására, és a sűrűn lakott Gázai
övezetben légicsapásokkal célba vette otthonaikat.
A programot alig felügyeli ember. A +972 Magazine szerint az emberek mindössze 20
másodpercet töltenek egy-egy támadás engedélyezésével.
A legrosszabb forgatókönyv szerint a mesterséges intelligencia
alapú hadviselés akár az emberiséget is veszélyeztetheti.Az OpenAI, a Meta és az Anthropic AI-modelleivel végzett háborús játékok azt mutatták,
hogy az AI-modellek hajlamosak hirtelen kinetikus háborúba, köztük nukleáris háborúba
torkollni, szemben az emberek által vezetett játékokkal. Nem kell sok képzelőerő ahhoz,
hogy belássuk, milyen szörnyen rosszul alakulhatnának a dolgok, ha ezeket az AI-
rendszereket valóban bevetnénk.
1983 - ban egy szovjet rakétaérzékelő rendszer tévesen a felhőkről visszaverődő fényt
közeledő nukleáris támadásnak minősítette. Szerencsére a szovjet hadseregnek volt egy
emberi katonája, aki a riasztás feldolgozásáért felelt, és megállapította, hogy a
figyelmeztetés hamis volt.
A mesterséges intelligencia korában azonban előfordulhat, hogy nem lesz ember,
aki kétszeresen ellenőrizze a rendszer munkáját.
Szerencsére úgy tűnik, Kína és az Egyesült Államok felismerte, hogy együtt kell működniük a
mesterséges intelligencia terén. A 2023. novemberi csúcstalálkozójukat követően Joe Biden
amerikai elnök és Xi ígéretet tett arra, hogy közösen megvitatják a mesterséges intelligencia
kockázati és biztonsági kérdéseit, és a tárgyalások első fordulójára májusban Genfben került
sor.
Ez a párbeszéd elengedhetetlen. Még ha a két szuperhatalom közötti együttműködés
kicsiben kezdődik is, és talán nem ér el többet, mint a mesterséges intelligencia háborús
felhasználásával kapcsolatos közös nyelvezet kialakítását, akkor is megteremtheti az alapját
valami nagyobb dolognak. A hidegháború idején - a nagyhatalmi rivalizálásnak a jelenlegi
amerikai-kínai versengésnél lényegesen intenzívebb korszakában - a Szovjetunió és az
Egyesült Államok képes volt a nukleáris biztonsági intézkedések erős rendszerét kiépíteni.