Verejne známe osobnosti vyzývajú na spomalenie pretekov smerom k superinteligencii. Tvrdia, že hrozí ekonomická nepotrebnosť ľudí, strata slobody aj vyhynutie ľudstva.
Viac ako 850 lídrov z prostredia umelej inteligencie a technológií podporilo list, ktorý žiada zákaz vývoja systémov presahujúcich ľudský intelekt, kým nevznikne široký vedecký konsenzus o ich bezpečnom a kontrolovateľnom nasadení a kým sa pre to nezíska verejná podpora, píše Euronews.
Pod dokument sa podpísali aj výrazní informatici Geoffrey Hinton a Yoshua Bengio, ktorých odborná verejnosť dlhodobo označovala za krstných otcov AI. Pridali sa Steve Wozniak, spoluzakladateľ Apple, a Richard Branson, zakladateľ Virgin Group.
K signatárom sa podľa denníka The Guardian pridali aj vojvoda a vojvodkyňa zo Sussexu. Výzvu podporili spolu s laureátmi Nobelovej ceny a ďalšími známymi osobnosťami.
Signatári varujú pred stratou občianskych slobôd, dôstojnosti a kontroly, ale aj pred rizikami pre národnú bezpečnosť. V pozadí je obava, že AI s nadľudskými kognitívnymi schopnosťami by sa mohla vyvíjať spôsobom, ktorý ľudia nedokážu ustrážiť.
Už v 50. rokoch na scenár, v ktorom stroje preberú kontrolu, upozorňoval priekopník informatiky Alan Turing.
Otázka superinteligencie sa stala aj marketingovým heslom. Meta tento rok nazvala svoju divíziu veľkých jazykových modelov Meta Superintelligence Labs.
Svetoví lídri zároveň zdôrazňujú, že vyhrať preteky v AI považujú za kľúčové pre zdravotníctvo, biznis aj národnú bezpečnosť, čo napätie okolo témy ešte zvyšuje.
Výzva žiada priamo zákaz vývoja superinteligencie. Podľa autorov by sa mal zrušiť až vtedy, keď sa vedci vo veľkom zhodnú, že vývoj prebehne bezpečne a kontrolovane, a keď to podporí verejnosť.
Generálny riaditeľ OpenAI Sam Altman predtým povedal, že nadľudská strojová inteligencia je zrejme najväčšou hrozbou pre ďalšiu existenciu ľudstva.
Šéf Microsoftu pre AI Mustafa Suleyman poznamenal, že kým sa nedokáže, že takáto technológia je bezpečná, nemala by sa vynaliezať. Ani Altman, ani Suleyman však medzi signatármi nie sú.
Altman dlhodobo hovorí aj o všeobecnej umelej inteligencii. Opisuje ju ako hypotetický systém, ktorý dokáže riešiť akúkoľvek ľudskú úlohu spôsobmi, ktoré nie sú obmedzené tréningom. Tvrdil, že môže pozdvihnúť ľudstvo a nejde o predstavu strojov, ktoré prevezmú moc.
Medzi podpismi sú okrem technologických mien aj akademici, mediálne známe tváre, náboženskí lídri a bývalí politici. Autori listu zdôraznili, že superinteligencia sa voľne chápe ako AI, ktorá prekoná človeka vo všetkých kognitívnych úlohách.
Obávajú sa preto straty ľudskej kontroly a dôsledkov pre spoločnosť od práce cez súkromie až po bezpečnosť štátov. Vývojárov vyzvali, aby nepokračovali, kým nebude jasné, že takéto systémy budú naozaj pod kontrolou.
O AI sa na Slovensku budú učiť už aj na školách. Viac sa dozviete v reportáži:
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
