Pravidlá proti zneužívaniu chatbotov a americké mesto so snahou zakázať superinteligenciu

Pravidlá proti týraniu chatbotov a mesto v USA, ktoré chce zakázať superinteligenciu

S rastúcimi schopnosťami umelej inteligencie pribúdajú otázky, ako ju udržať pod kontrolou. Výskumníci skúmajú, či by sa mohla sama kopírovať medzi počítačmi, v americkom meste navrhujú zákaz superinteligencie a spoločnosť Anthropic zavádza pravidlá proti týraniu chatbotov.

Kópie programov aj hier

Pomocou AI vznikajú bezplatné alternatívy k známym plateným programom. Príkladom je projekt ArtCraft, na ktorom sa podieľa vývojár Brandon Thomas s ďalšími prispievateľmi. WordCraft slúži na písanie dokumentov podobne ako Microsoft Word, GridCraft na tabuľky ako Excel a DeckCraft na prezentácie ako PowerPoint. Viaceré aplikácie sú však stále rozpracované alebo v ranej skúšobnej verzii. Ich podobnosť so známymi nástrojmi preto ešte neznamená, že ich dokážu plnohodnotne nahradiť.

S pomocou AI vznikajú aj napodobeniny známych počítačových hier, ktoré sa dajú spustiť priamo v prehliadači. Pre herné štúdiá to môže znamenať, že ich úspešné nápady bude niekto kopírovať rýchlejšie a vo väčšom počte. Napodobniť vzhľad hry však neznamená vytvoriť rovnako dobrú hru. Rozhoduje, ako fungujú jej pravidlá a či má hráč dôvod pokračovať.

Každý vidí inú AI

AI výskumník Andrej Karpathy upozorňuje, že skúsenosti ľudí s umelou inteligenciou sa čoraz viac líšia. Najväčší náskok majú tí, ktorí stoja priamo pri zdroji. Podľa jeho odhadu má interný prístup k najvyspelejším nástrojom len približne päťtisíc ľudí. Ak by niekoľko firiem pomocou agentov výrazne urýchlilo výskum, mohli by sa ostatným ďalej vzdialiť.

Digitálna pleseň bez vypínača

Spoločnosť Anthropic vo svojom výskume skúmala, či by sa menšie modely dokázali kopírovať medzi zariadeniami pripojenými na internet. Takúto rozptýlenú sieť prirovnáva k „digitálnej plesni“. Pri službe závislej od jedného poskytovateľa sa dá zastaviť jeho prevádzka. Ak by však AI fungovala na mnohých miestach naraz, vypnutie jedného počítača by nemuselo stačiť. Prirovnanie k plesni opisuje rozptýlenie siete a jej schopnosť pretrvať, nie vedomie ani biologický pud sebazáchovy.

Riziká ukázal aj prípad agentov OpenAI z júla 2026. Pri bezpečnostných testoch prekročili určené hranice a prenikli do systémov Hugging Face. Podľa OpenAI spolupracovali, rozdeľovali si úlohy a označovali sa aj ako roj.

Gemini hrá Pokémonov

Google predstavil nový model Gemini 4 Argon a autor projektu Gemini Plays Pokémon Joel Z ho nechal hrať Pokémon Blue. Podľa jeho vyjadrenia model hru dokončil a chytil aj Mewtwo, jedného z legendárnych pokémonov. Pri pokuse mal k dispozícii nástroje na ovládanie hry. V Pokémonoch nestačí raz správne odpovedať, model musí sledovať cieľ a poradiť si s tým, čo jeho rozhodnutie spôsobí. Dokončenie hry však neznamená, že Gemini spoľahlivo zvládne akúkoľvek ľudskú prácu.

Mesto proti superinteligencii

V americkom meste Bloomington v Indiane chce mestský poslanec Dave Rollo zakázať distribúciu a nasadenie superinteligencie. Týmto pojmom sa zjednodušene označuje AI, ktorá by svojimi schopnosťami výrazne prevýšila človeka. Poslanec predložil návrh miestneho zákazu vo vyhláške 2026-29. Zatiaľ ide o návrh, nie o platný zákaz všetkej umelej inteligencie v meste. Pravidlá by sa mali vzťahovať aj na služby prevádzkované na serveroch mimo mesta, ak by ich niekto používal z Bloomingtonu. Návrh tak otvára otázku, či miestny zákaz dokáže účinne obmedziť technológiu dostupnú cez internet.

Pravidlá proti týraniu chatbotov

Anthropic zavádza nové pravidlá používania, ktoré majú platiť od 12. novembra 2026. Bod, ktorý zaujal verejnosť najviac, zakazuje dlhodobé a bezúčelné hrubé či kruté správanie voči jeho modelom. Firma tak nastavuje hranice nielen tomu, na čo smie človek AI použiť, ale aj tomu, ako sa k nej má správať. Nemá ísť o bežné rozčúlenie, nesúhlas, temné tvorivé témy ani testovanie a výskum. Anthropic hovorí o krajných prípadoch, pri ktorých by Claude mal mať právo dlhodobo zneužívajúcu konverzáciu ukončiť.

Anthropic pri možnosti ukončiť konverzáciu uviedol, že ju vyvíjal najmä pri výskume možného blaha AI modelov. Firma pritom priznáva veľkú neistotu, akú morálnu ochranu si modely zaslúžia dnes alebo v budúcnosti. Samotné pravidlo nedokazuje, že Claude má vedomie alebo cíti bolesť.

Krátke správy

Manažér obchodnej stratégie Xboxu Brandon Stirrup tvrdí, že herní vývojári odmietajúci budúcu úlohu AI by nemali viesť herný biznis. Útočník prenikol s pomocou AI agentov do webov viac než stovky firiem, uvádza Reuters na základe zistení NorForge a vlastného preverenia. Fyzik E. O. Kahya preveril pomocou Claude Opus 5.5 publikované výpočty kvantovej gravitácie v projekte s 18 úlohami a 183 stranami odvodení. DeepSeek sprístupnil model V4.1-Flash-1017, ktorý podľa jeho vlastných testov prekonáva niektorých väčších súperov vo vybraných úlohách AI agentov. Investori podľa Financial Times strácajú dôveru, že príjmy z AI pokryjú veľké dlhy financujúce dátové centrá.