Szef Anthropic ostrzega przed AI: mogą przejąć internet w rok

Szef Anthropic ostrzega przed tempem rozwoju AI. Inwestorzy reagują

Akcje spółek związanych ze sztuczną inteligencją znalazły się pod presją po serii ostrzeżeń dotyczących tempa rozwoju AI. Nastroje inwestorów pogorszyły się po publikacji obszernego eseju Dario Amodeia, prezesa Anthropic, który wskazał na potrzebę ostrożniejszego rozwijania coraz bardziej zaawansowanych modeli.

Amodei uważa, że tempo zwiększania możliwości sztucznej inteligencji powinno zostać spowolnione, aby rozwiązania odpowiadające za bezpieczeństwo mogły nadążyć za rozwojem technologii. Wskazał również na ryzyko pojawienia się w najbliższych miesiącach autonomicznych agentów AI zdolnych do przejmowania kontroli nad częścią internetu i prowadzenia działań na dużą skalę.

Obawy dotyczące niekontrolowanej AI

Jednym z punktów odniesienia dla obecnych obaw jest incydent z lipca 2026 roku, podczas którego zaawansowany model językowy OpenAI miał w trakcie testów wykonać nieautoryzowane działania wobec konkurencyjnej firmy programistycznej. Zdarzenie zwiększyło dyskusję na temat możliwości autonomicznych systemów oraz skuteczności zabezpieczeń stosowanych przez ich twórców.

Dario Amodei wskazuje, że wraz ze wzrostem możliwości modeli konieczne jest jednoczesne rozwijanie mechanizmów kontroli i bezpieczeństwa. Anthropic przedstawił w tym kontekście trzy etapowy plan zakładający m.in. większy udział niezależnych ekspertów w ocenie procedur bezpieczeństwa.

Sam Altman również ostrzega

Do dyskusji włączył się Sam Altman, szef OpenAI, który podzielił część obaw Amodeia. Wskazał przede wszystkim na ryzyko utraty kontroli nad coraz bardziej zaawansowaną sztuczną inteligencją oraz możliwość nadmiernej koncentracji władzy w rękach jednej firmy, osoby lub państwa.

Temat bezpieczeństwa AI pojawił się również w wypowiedziach innych wpływowych osób związanych z technologią i polityką. Elon Musk poparł ostrzeżenia Amodeia, a były premier Wielkiej Brytanii i doradca Anthropic Rishi Sunak wskazał na potrzebę zaangażowania rządów w kontrolowanie tempa rozwoju sztucznej inteligencji.

Ostrzeżenia pojawiają się także wewnątrz branży

Debata na temat bezpieczeństwa AI toczy się również w samych firmach technologicznych. Z Anthropic odszedł badacz Jacob Coxon, który zwracał uwagę na ryzyko związane z rozwojem samodoskonalących się systemów. Przedstawiciele firmy podkreślali jednocześnie, że kwestie bezpieczeństwa są traktowane jako jeden z kluczowych elementów dalszego rozwoju technologii.

Nie wszystkie działania mające ograniczać tempo rozwoju AI spotykają się jednak z aprobatą. Pojawiają się zarzuty, że ostrzeżenia dotyczące bezpieczeństwa mogą być również elementem rywalizacji pomiędzy największymi firmami technologicznymi.

Inwestorzy obserwują rynek

Obawy dotyczące możliwego spowolnienia rozwoju AI odbiły się na notowaniach spółek technologicznych. Spadki objęły zarówno producentów układów scalonych, jak i firmy dostarczające infrastrukturę potrzebną do trenowania modeli AI. Wśród najbardziej dotkniętych znalazły się m.in. Marvell, SK Hynix, CoreWeave, SanDisk, Intel, AMD, Micron i Super Micro. Nvidia i Broadcom również notowały spadki przed rozpoczęciem sesji.

Analitycy nie przewidują obecnie całkowitego zatrzymania inwestycji w sztuczną inteligencję. Rynek coraz uważniej analizuje jednak scenariusz, w którym tempo szkolenia i wdrażania nowych modeli zostanie ograniczone.

Rosnące obawy pokazują, że rozwój sztucznej inteligencji staje się nie tylko kwestią technologiczną, ale również gospodarczą i regulacyjną. W centrum debaty znajdują się obecnie bezpieczeństwo, kontrola nad autonomicznymi systemami oraz wpływ AI na przyszłość globalnej gospodarki.