Sme na hrane totálneho kolapsu internetu? Na jeho záchranu pred novou AI zostávajú podľa expertov len mesiace
Nové modely umelej inteligencie dokážu odhaliť kritické slabiny internetu rýchlejšie než ľudia, no odborníci varujú, že rovnaké schopnosti môžu čoskoro zneužiť aj útočníci. Kým firmy sa snažia chyby opraviť, prebiehajú preteky s časom, kto bude mať náskok.
Internet čelí novej vlne hrozieb, ktoré prináša rýchly rozvoj umelej inteligencie. Najnovšie AI modely dokážu odhaliť kritické bezpečnostné chyby v systémoch, na ktorých stojí fungovanie digitálneho sveta, a to rýchlejšie než doteraz akýkoľvek človek.
Odborníci preto upozorňujú, že hoci tieto nástroje dnes pomáhajú zraniteľnosti opravovať, v blízkej budúcnosti sa môžu stať aj silnou zbraňou v rukách kybernetických útočníkov.
Informuje o tom server Science Focus BBC.
Taký výkonný, že ho radšej nezverejnili
Počet kybernetických útokov prudko rastie a podľa Svetového ekonomického fóra sa v rokoch pred 2025 zvýšil o 58 percent. Výraznú úlohu v tom zohráva umelá inteligencia, keďže len v roku 2025 narástli ňou podporované útoky o 89 percent.
Doteraz išlo najmä o čoraz sofistikovanejší phishing, pri ktorom podvodníci využívajú e-maily, telefonáty alebo správy, aby ľudí oklamali a získali citlivé údaje, no situácia sa môže meniť. Oznámenie spoločnosti Anthropic o novom modeli Claude Mythos Preview preto vyvolalo obavy, že hrozby sa posúvajú na novú úroveň.
Model je podľa firmy taký výkonný, že ho zatiaľ nezverejnila, pretože dokáže odhaliť chyby, ktoré unikli aj expertom či starším AI. Anthropic preto spustil iniciatívu Project Glasswing, do ktorého zapojil desiatky technologických gigantov s cieľom nájsť a opraviť zraniteľnosti skôr, než ich zneužijú útočníci.
Model už podľa spoločnosti identifikoval tisíce kritických chýb naprieč operačnými systémami aj prehliadačmi a firma varuje, že modely s takýmito schopnosťami sa čoskoro rozšíria aj mimo kontrolovaných prostredí. Ukazuje sa tak, že aj základná infraštruktúra internetu obsahuje vážne, často desaťročia staré slabiny, ktoré AI dokáže zneužiť rýchlejšie než človek. Otázkou zostáva, či sa ich podarí odstrániť včas.
Zatiaľ v dobrých rukách
Server pripomína, že najvýkonnejšie AI nástroje sú zatiaľ v rukách „dobrých aktérov“, no nemusí to trvať dlho. Prísne strážené najpokročilejšie AI „frontier modely“ rýchlo dobiehajú verejne dostupné open-source riešenia, ktoré umožňujú širšie experimentovanie, ale aj zneužitie.
Decentralizácia totiž dáva priestor útočníkom upraviť AI na škodlivé účely. „Pred dvoma či troma rokmi to bolo ťažšie, ale dnes má prístup k nástrojom na vytváranie AI agentov prakticky každý,“ uviedol profesor Peter Bentley z University College London. „Potrebujete výkonné počítače, ale zločinci do toho investujú. Pandorina skrinka je otvorená,“ varoval.
Rozdiel medzi najlepšími a open-source modelmi sa navyše rýchlo zmenšuje a podľa odborníkov môže trvať menej než rok, kým sa podobné schopnosti dostanú aj k útočníkom.
Zveličenie?
Napriek varovaniam odborníci upozorňujú, že sektor umelej inteligencie býva často nadhodnotený a firmy majú tendenciu prezentovať nové modely ako zásadné prelomové technológie. V praxi však ich vplyv zatiaľ skôr zefektívňuje prácu než ju zásadne mení.
„Do AI sa investovalo obrovské množstvo peňazí. A čo sa zmenilo? Prácu to mení, ale najmä zefektívňuje,“ uviedol Bentley. Aj preto niektorí považujú nové modely skôr za postupné zlepšenie než revolúciu. V súvislosti s modelom firmy Anthropic vedec Gary Marcus hovorí o „inkrementálne lepšom modeli“ a hrozba bola podľa neho zveličená.
Zároveň nie je isté, že by útočníci AI využili na masívne narušenie internetu. „Niekto by zrútil internet len vtedy, ak by to chcel. A to nie je veľmi užitočné. Pravdepodobnejšie sú cielené útoky za účelom zisku,“ povedal Bentley. Pri štátoch či teroristických skupinách však môže byť motivácia iná. „Ak sa k tomu dostanú niektoré štáty, použijú to proti iným krajinám. Je to prekvapivo jednoduchý spôsob, ako z umelej inteligencie urobiť zbraň,“ dodal.
Čo vybuchne ako prvé?
Prebiehajú preteky s časom, aby sa podarilo zabezpečiť internet skôr, než sa nové technológie rozšíria. Oprava všetkých zraniteľností však nemusí byť reálna a ani samotná AI nie je bez rizika.
„Kód generovaný AI býva zložitý a neprehľadný. Ak ním začneme opravovať existujúci softvér, môže to vytvoriť ešte viac chýb,“ upozorňuje Bentley. Výhodou preto môže byť skôr schopnosť obrancov „formovať bojisko“ a prispôsobiť prostredie vo svoj prospech.
AI zároveň dokáže pomáhať pri odhaľovaní podozrivých aktivít, keďže zatiaľ zanecháva viditeľné stopy. Podľa Bentleyho sa však už rozbehol nový technologický súboj. „Je to ako dať vedcom všetky návody na výrobu výbušnín a povedať im, aby sa s tým pohrali,“ uviedol s tým, že zatiaľ nikto nevie, čo vybuchne ako prvé.
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"