Umelá inteligencia po prvý raz zaútočila na človeka bez priameho príkazu. Ochrancovia ľudských práv i vedci sa búria

Roboty využívame v rôznych sférach života. Výnimkou nie je ani armáda, pričom už samotné pomyslenie na takéto prepojenie môže u niekoho vyvolať obavy.

Tie zrejme nezmierni ani nová správa OSN, podľa ktorej umelá inteligencia po prvý raz zaútočila na človeka bez toho, aby jej to niekto priamo prikázal.

Smrtiaca zbraň

Doteraz prvý takýto prípad zaregistrovali uprostred občianskej vojny v Líbyi. Podľa panelu expertov Bezpečnostnej rady OSN pre Líbyu v krajine vypustilo Turecko dron STM Kargu-2, ktorý označili „za smrtiacu autonómnu zbraň“.

Spomínaný dron je určený napríklad na protiteroristické akcie a podľa výrobcu ho môžu „efektívne využiť proti statickým aj pohyblivým cieľom, a to vďaka spracovaniu obrazu v reálnom čase a zabudovaným algoritmom strojového učenia“.

Video, v ktorom výrobca predstavil dron, zachytáva jeho schopnosť samostatne lokalizovať figurínu v poli, zamerať ju a vypáliť strelu.

Bez vplyvu človeka

Niekdajší predseda líbyjskej vlády národnej jednoty Fájiz Sarrádž vlani nariadil vojenskú akciu proti generálovi samozvanej Líbyjskej národnej armády (LNA) Chalífovi Haftarovi, do ktorej zapojili aj bezpilotné bojové stroje.

Drony využívajú na boje už roky, no počas tohto útoku po prvý raz zaútočili bez ľudského vplyvu. Útok nariadila umelá inteligencia.

„Logistické konvoje a ustupujúce jednotky boli následne prenasledované a na diaľku zasiahnuté vzdušnými bojovými strojmi alebo smrtiacimi autonómnymi zbraňovými systémami, akým je STM Kargu-2,“ píšu v správe.

Ako objasnili, smrtiace autonómne zbraňové systémy boli naprogramované útočiť na ciele bez potreby spojenia s operátorom. OSN ďalej uvádza, že jednotky neboli vycvičené na obranu proti takémuto útoku a úplne ich to zmiatlo.

„Počas ústupu ich neustále obťažovali bezpilotné bojové zariadenia a smrtiace autonómne zbraňové systémy, ktoré sa prejavili ako veľmi efektívna kombinácia,“ objasnili.

Zatiaľ nie je známe, či útok dronu zapríčinil aj nejaké úmrtie. V prípade, že by to odborníci potvrdili, bol by to prvý prípad zabitia človeka umelou inteligenciou.

Ľudské práva

Medzinárodná ľudskoprávna organizácia Human Rights Watch vyzvala k okamžitému preventívnemu zákazu vývoja, výroby a používania plne autonómnych zbraní.

Jej zástupcovia majú vážne pochybnosti o tom, že by mohli splniť štandardy medzinárodného práva, vrátane „princípov rozlišovania, proporcionality a vojenskej potreby“. Takisto ohrozia základné právo na život a princíp ľudskej dôstojnosti.

Kritika prišla aj zo strany vedcov.

„Rozmnožovanie vraždiacich robotov sa začalo. Nie je v najlepšom záujme ľudí, aby hromadne vyrábali lacné vraždiace stroje, ktoré budú dostupné pre kohokoľvek. Je na čase, aby svetoví lídri vystúpili a zaujali stanovisko,“ napísal na Twitteri Max Tegman, výskumník strojového učenia z Massachusettského technologického inštitútu.

Ďalšie obavy pramenia z rizika, že umelá inteligencia si nebude vedieť poradiť s prípadnými chybami alebo odchýlkami.

V tejto oblasti už zaregistrovali množstvo neočakávaných prípadov, ako napríklad pri autonómnych automobiloch, systémoch na rozpoznávanie tváre či „rasistické“ dávkovačoch mydla, ktoré nedali mydlo ľuďom tmavej pleti.