OSN varuje pred existenčnými rizikami AI a vyzýva na okamžitú reguláciu

OSN varuje pred existenčnými rizikami AI, vyzýva na okamžitú reguláciu

Vysoký komisár OSN pre ľudské práva Volker Türk v pondelok vyzval štáty a popredné technologické firmy vyvíjajúce umelú inteligenciu, aby urýchlene zakročili a dostali pod kontrolu túto technológiu, ktorá podľa neho predstavuje bezprecedentné riziká.

Türk v liste adresovanom vládam a vývojárom AI, ktorý bol poskytnutý aj médiám, varoval, že svet sa nachádza na prahu nezvratných zmien, ktoré ovplyvnia nielen súčasnú generáciu, ale aj budúce generácie ľudstva.

„Súčasné preteky v budovaní čoraz výkonnejšej AI znamenajú zásadný posun smerom k väčším existenčným rizikám pre každú oblasť nášho života,“ uviedol vysoký komisár OSN pre ľudské práva.

Svoj list zaslal v čase stupňujúcich sa obáv z rizík spojených so superinteligentnými počítačovými systémami. Tie nedávno vyvolali rozruch po tom, čo jeden z výskumníkov poprednej AI spoločnosti Anthropic verejne rezignoval pre obavy, že by sa technológia mohla vymknúť spod ľudskej kontroly. Ďalší zamestnanec spoločnosti Anthropic, ktorý z funkcie neodstúpil, verejne vyhlásil, že pravdepodobnosť scenára vyhladenia celého ľudstva je v nasledujúcom desaťročí vyššia než desať percent.

V reakcii na narastajúcu kritiku generálny riaditeľ spoločnosti Anthropic Dario Amodei v sobotu vyzval firmy zamerané na AI, aby spomalili vývoj na technologickej hranici a skoordinovali tempo rastu. Jeho kľúčoví konkurenti Elon Musk (xAI) a Sam Altman (OpenAI) mu v tom vyjadrili verejnú podporu.

„V dnešnom svete sme takmer úplne odkázaní na malý počet vplyvných korporácií, že urobia správne rozhodnutia vo vývoji AI v prospech celého ľudstva,“ vyjadril sa Türk.

„Vyzývam štáty a firmy, aby sa urýchlene mobilizovali na multilaterálnych fórach a spoločne načrtli kroky na reguláciu pokročilých, priekopníckych modelov AI, ktoré budú pevne zakotvené v medzinárodnom práve v oblasti ľudských práv,“ uzavrel vysoký komisár OSN.