Anthropic zastavil pokusy o vývoj biologických zbraní. Výskumníci tajne žiadali model Claude o pomoc s grantmi či vírusmi
Americká spoločnosť Anthropic za posledných päť mesiacov zablokovala niekoľko pokusov o využitie jej softvéru na vývoj biologických zbraní. Skutočné zámery výskumníkov, ktorí nástroju Claude adresovali takéto požiadavky, je ťažké identifikovať, keďže predmetné informácie mohli slúžiť tak na lekárske, ako aj na vojenské účely, oznámila spoločnosť vo štvrtok (10. 9.). Informuje o tom agentúra DPA.
V každom prípade je preukázané, že vedci z regiónov s obmedzeným prístupom a s väzbami na tamojšie vládne agentúry sa pokúšali tajne získať prístup k nástrojom umelej inteligencie vyvinutým americkými spoločnosťami, priblížil Anthropic. Výskumné inštitúcie ani krajiny pôvodu spoločnosť nešpecifikovala.
V správe o pokusoch o zneužitie svojich modelov umelej inteligencie Anthropic spomenul päť prípadov súvisiacich s potenciálnym výskumom biologických zbraní. Požiadavky výskumníkov sa netýkali konkrétnych vedeckých otázok, ale skôr organizačnej podpory, ako napríklad pomoci s vypracovaním dokumentov.
Hranica medzi výskumom a zneužitím
Modely umelej inteligencie sú podľa Anthropicu vo svojej podstate navrhnuté tak, aby odmietli pomoc pri vývoji biologických zbraní. Spoločnosť však poznamenala, že pri výskume, ktorý môže slúžiť na lekárske aj vojenské účely, môže byť niekedy ťažké stanoviť jasnú hranicu medzi neškodným a zlým úmyslom.
Jeden z pokusov o prístup, ktorý spoločnosť zablokovala, zahŕňal použitie softvéru Claude na vypracovanie návrhu grantu na výskum vírusov. Projekt sa zameral na výskum „zisku funkcie“ (gain of function), ktorá zvyšuje prenosnosť patogénu. Ide o bežnú metódu, ktorá sa používa v laboratóriách pri hľadaní protilátok, ale zároveň aj o spôsob, ako vyvíjať biologické zbrane. Cieľom iného pokusu bolo vypracovať pomocou nástroja Claude plán výskumu variantu vtáčej chrípky, ktorý by dokázal infikovať cicavce.
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"