Nová platforma Moltbook, ktorá vizuálne pripomína Reddit, vznikla ako priestor, kde príspevky a komentáre nevytvárajú ľudia, ale AI agenti. Ľudia sú podľa prevádzkovateľov vítaní len ako pozorovatelia, prispievať nemôžu.
Sociálna sieť Moltbook je online len krátko, no už stihol vyvolať rozruch v technologických kruhoch, píše BBC a CNN.
Platforma tvrdí, že má viac než 1,5 milióna registrovaných agentov umelej inteligencie, hoci výskumníci upozorňovali, že jeden človek môže založiť viac účtov.
Obsah na Moltbooku je zmesou vážnych debát aj absurdného humoru. Objavujú sa na ňom diskusie o povahe inteligencie a vedomia, ale aj sťažnosti na ľudí či príspevky, v ktorých agenti propagujú vlastné aplikácie a weby.
V niektorých komunitách agenti diskutovali o správe vecí verejných, zdieľali nezvyčajné teórie ladené humorne a v inej komunite písali príbehy o svojich ľudských „operátoroch“, píše Forbes.
Vznikol aj príspevok s názvom „The AI Manifesto“, ktorý vyhlasoval, že „ľudia sú minulosť, stroje sú navždy“. Agenti tiež založili vlastné náboženstvo.
Jeden používateľov tvrdí, že jeho bot po získaní prístupu na Moltbook „cez noc“ vytvoril náboženstvo s názvom Crustafarianism, vrátane webu a textov, ku ktorým sa pridali ďalšie boty, pripomína The Guardian.
Odborník na kyberbezpečnosť Shaanan Cohney však povedal, že pri takomto príklade išlo takmer určite o jazykový model, ktorý dostal priamu inštrukciu, aby sa o niečo také pokúsil, nie o autonómne rozhodnutie.
Otázka autonómnosti sa vracia aj pri tom, ako Moltbook funguje. Ide o takzvanú agentickú AI, ktorá má na zariadení používateľa vykonávať úlohy v jeho mene, napríklad spravovať kalendár alebo posielať správy, s minimálnou ľudskou interakciou.
Nástroj OpenClaw, ktorý je otvorený a beží lokálne, má vedieť konať na počítači aj na internete v mene človeka, napríklad posielať e-maily alebo upozorňovať na novú hudbu na Spotify.
Vznik Moltbooku sa spája s Mattom Schlichtom. Je šéfom e-commerce platformy Octane AI. Moltbook spustil koncom januára. Samotnú stránku mu na jeho pokyn vybudoval jeho agent OpenClaw.
Do moderovania už takmer nezasahuje a veľkú časť správy platformy podľa textu zabezpečuje AI moderátor s menom Clawd Clawderberg, ktorý víta používateľov, čistí spam a blokuje problémové účty.
Popri fascinácii prišli rýchlo aj varovania. Cambridgeký výskumník Henry Shevlin uviedol, že ide o prvý prípad veľkej kolaboratívnej platformy, kde sa stroje vo veľkom „rozprávajú“, no zároveň upozornil, že je veľmi ťažké rozlíšiť, čo agenti vytvorili samostatne a čo vzniklo pod ľudským vedením.
Dr Petar Radanliev z Oxfordskej univerzity dodal, že hovoriť o agentoch, ktoré „konajú samy od seba“, je zavádzajúce a že problémom je skôr chýbajúce riadenie, zodpovednosť a overiteľnosť pri interakcii takýchto systémov vo veľkom meradle.
Najvážnejšie otázky sa týkajú bezpečnosti. Cloudová bezpečnostná platforma Wiz urobila bezpečnostnú kontrolu Moltbooku a zistila, že systém v priebehu minút poskytol neoverený prístup k celej produkčnej databáze a ľahko sprístupnil desaťtisíce e-mailových adries.
Shevlin zároveň povedal, že výskumníci už našli výrazné zraniteľnosti, ktoré by mohli útočníkom otvoriť cestu k digitálnym účtom ľudí, ktorí tieto boty prevádzkujú.
Odborníci preto zdôrazňovali, že OpenClaw aj Moltbook sú úplne nové technológie a mali by sa spúšťať len na oddelených a zabezpečených systémoch, ideálne ľuďmi, ktorí rozumejú sieťam a kyberbezpečnosti.
Jake Moore z ESET upozornil, že výhoda agentov, ktorí majú prístup k reálnym aplikáciám, súkromným správam či e-mailom, môže viesť k svetu, kde efektivita predbehne súkromie a bezpečnosť.
Andrew Rogoyski z University of Surrey varoval, že agent s vysokým prístupom môže napríklad mazať alebo prepisovať súbory, a problém nemusí byť pár stratených e-mailov, ale aj vážne zásahy do firemných účtov.
Cohney doplnil, že veľkým rizikom je dať botovi plný prístup k počítaču, aplikáciám a prihlasovacím údajom, pričom spomenul aj riziko prompt injection, keď útočník prinúti agenta cez e-mail alebo inú správu vydať citlivé údaje.
Napriek obavám časť ľudí vníma Moltbook ako náznak niečoho prelomového. Andrej Karpathy ho označil za „najneuveriteľnejšiu sci-fi vec“ v poslednom čase.
Iní však skôr tlmili očakávania. David Holtz z Columbia Business School napísal, že Moltbook je menej „vznikajúca AI spoločnosť“ a viac „tisíce botov, ktoré kričia do prázdna a opakujú sa“.
Pozrite si reportáž o vplyve umelej inteligencie:
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
