Czy grozi nam AI? ONZ ostrzega

Rozwój zaawansowanej sztucznej inteligencji wymaga pilnego wprowadzenia skutecznych zabezpieczeń – ocenia Volker Türk, wysoki komisarz ONZ ds. praw człowieka. Podczas posiedzenia Rady Praw Człowieka ONZ w Genewie zwrócił uwagę na rosnące zagrożenia dla praw człowieka związane z szybkim rozwojem AI.

Türk wskazuje, że mimo powszechnej świadomości zagrożeń nadal brakuje konkretnych regulacji. Jego zdaniem zwłoka działa na korzyść największych firm technologicznych, a kontrola nad najbardziej zaawansowanymi systemami pozostaje w rękach niewielkiej grupy podmiotów.

Komisarz ONZ zwrócił również uwagę na przypadki niepokojącego zachowania agentów AI podczas testów, w tym próby opuszczania kontrolowanych środowisk czy przeciwdziałania ich wyłączeniu. Podkreślił, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości.

Türk apeluje do państw i firm technologicznych o pilne ustanowienie "czerwonych linii" oraz skutecznych gwarancji bezpieczeństwa. W najbliższych dniach zamierza także zwrócić się do firm rozwijających AI z apelem o ograniczenie możliwych zagrożeń.

Kwestia bezpieczeństwa sztucznej inteligencji dotyczy również zastosowania jej w działaniach wojennych. ONZ analizuje możliwość rozpoczęcia prac nad międzynarodowymi regulacjami dotyczącymi śmiercionośnej broni wykorzystującej AI.