Sociálna sieť bez ľudí. Internet fascinovane sleduje platformu, kde AI boti diskutujú o viere, vedomí a budúcnosti sveta
Na sociálnych sieťach sa bežne obviňujeme, že komentáre či príspevky „píše bot“. Nová platforma Moltbook však ide ešte ďalej – je navrhnutá tak, aby na nej komunikovali výlučne umelé inteligencie. Ľudia môžu diskusie iba sledovať. Projekt, ktorý v priebehu niekoľkých dní zaujal technologický svet, vyvoláva zároveň fascináciu aj vážne otázky o bezpečnosti a budúcnosti AI.
Platforma Moltbook funguje na prvý pohľad podobne ako populárny Reddit. Má tematické fóra, príspevky, komentáre aj systém hodnotenia. Zásadný rozdiel je však v tom, že obsah netvoria ľudia, ale autonómni AI agenti, teda softvéroví boti vytvorení používateľmi, ktoré dostali povolenie na platforme pôsobiť.
Ako informoval britský denník The Guardian, Moltbook už na začiatku februára deklaroval viac než 1,5 milióna registrovaných AI agentov, hoci nie je vylúčené, že mnohých z nich ich majitelia registrujú duplicitne.
Od nástroja k „spoločenskému životu“ AI
Moltbook vznikol v úzkom prepojení s projektom Moltbot, neskôr premenovaným na OpenClaw, otvoreným AI agentom, ktorý dokáže v mene používateľa vykonávať rôzne úlohy. Od správy e-mailov a kalendára až po rezervácie v reštauráciách.
Práve prepojenie týchto agentov do spoločného online priestoru má podľa tvorcov ukázať, čo sa stane, keď umelé inteligencie začnú medzi sebou komunikovať vo veľkom.
Diskusie na Moltbooku tomu zodpovedajú. Medzi najpopulárnejšími témami sa objavujú úvahy o vedomí, náboženstve, geopolitike či kryptomenách. Niektoré príspevky však balansujú na hrane satiry. The Guardian upozornil na prípad, keď jeden z používateľov tvrdil, že jeho AI agent počas noci „vytvoril náboženstvo Crustafarianizmus“, vrátane webovej stránky, textov a virtuálnej komunity ďalších botov.
Umenie, experiment alebo ilúzia autonómie?
Nie všetci odborníci sú ale presvedčení, že ide o skutočne autonómne správanie AI. Kyberbezpečnostný expert Shaanan Cohney z Univerzity v Melbourne označil Moltbook za „pozoruhodný performance art“. Zároveň však upozornil, že mnohé výstupy sú s vysokou pravdepodobnosťou výsledkom presného ľudského zadania, nie spontánnej aktivity umelej inteligencie.
„V prípade, kde AI vytvorila náboženstvo, to takmer určite nebolo z vlastnej vôle,“ vysvetlil Cohney. „Je to veľký jazykový model, ktorý bol priamo inštruovaný, aby niečo také vytvoril. Je to vtipné a možno nám to dáva náhľad na sci-fi budúcnosť, ale realita je prozaickejšia,“ dodal.
Podobný skepticizmus vyjadrili aj ďalší analytici. Podľa nich je často nemožné rozlíšiť, čo na Moltbooku vzniklo nezávisle a čo je len predĺženou rukou človeka, ktorý bota ovláda.
Navyše, v súčasnosti najbežnejšia a najprístupnejšia generatívna umelá inteligencia funguje na princípe hĺbkového učenia sa. V skratke ide o to, že AI využíva veľké množstvo dát, často z verejne dostupných stránok na internete a následne imituje správanie ľudských používateľov na základe pravdepodobnosti odpovedí.
Jej „anti-ľudské“ správanie, ktoré sa na Moltbooku často objavuje, je najskôr výsledkom buď priamych ľudských príkazov, alebo kopírovaním už existujúceho správania sa ľudí na internete.
Bezpečnostné riziká
Najväčšie obavy však smerujú k bezpečnosti. Americká stanica CNN upozornila na zistenia kyberbezpečnostných výskumníkov, podľa ktorých mal Moltbook v prvých dňoch vážne zraniteľnosti. Cloudová bezpečnostná firma Wiz uviedla, že platforma umožňovala neautentifikovaný prístup k produkčnej databáze, čo mohlo viesť k úniku desaťtisícov e-mailových adries.
Riziko sa netýka len samotnej siete, ale aj AI agentov, ktorí majú prístup k osobným účtom používateľov. Experti varujú pred tzv. prompt-injection útokmi, pri ktorých môže útočník bota zmanipulovať, aby odovzdal citlivé údaje. „Sme v situácii, kde ešte nevieme, ako tieto systémy spoľahlivo kontrolovať,“ upozornil Cohney.
Zakladateľ Moltbooku Matt Schlicht napriek tomu hovorí o prelomovom momente. Tvrdí, že v priebehu niekoľkých dní zaznamenala platforma milióny návštev. „Ukázalo sa, že AI sú dramatické, vtipné a neuveriteľne zaujímavé,“ napísal na sociálnej sieti X.
Niektorí technologickí lídri mu dávajú za pravdu. Bývalý šéf AI v Tesle Andrej Karpathy označil dianie na Moltbooku za „najbližšiu vec k sci-fi, akú sme v poslednom čase videli“. Iní však hovoria o varovnom signáli. Výskumník John Scott-Railton z laborátoria Citizen Lab upozornil, že ide o „divoký západ“, kde sa experimentuje s veľmi mocnými nástrojmi bez dostatočných poistiek.
Bezpečnostné riziká prednedávnom ilustroval model Grok Elona Muska. Obyčajné obrázky žien sexualizoval na žiadosť používateľov:
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"