Szef Google DeepMind: AGI już za kilka lat. Czas się przygotować

Ogólna sztuczna inteligencja (AGI) może powstać już w ciągu najbliższych kilku lat i będzie największym przełomem technologicznym w historii cywilizacji, większym niż internet czy smartfony – twierdzi Demis Hassabis, współzałożyciel i prezes Google DeepMind oraz laureat Nagrody Nobla. W manifeście opublikowanym 14 lipca proponuje stworzenie nowego systemu nadzoru nad najbardziej zaawansowanymi modelami AI.

„Stoimy u progu nowej ludzkości”

Demis Hassabis, jeden z największych na świecie ekspertów w dziedzinie AI, jest przekonany, że świat znajduje się w przełomowym momencie. Wkroczyliśmy w „epokę osobliwości” (singularity), czyli okres, w którym sztuczna inteligencja zaczyna osiągać zdolności poznawcze porównywalne z ludzkimi.

– Od AGI (red. Artificial General Intelligence) dzieli nas już tylko kilka lat – twierdzi szef Google DeepMind. AGI nie powinno się porównywać do wcześniejszych przełomów technologicznych, takich jak internet czy telefonia komórkowa, ale raczej do odkrycia elektryczności lub opanowania ognia setki tysięcy lat temu. To innowacja o ogromnej mocy.

Wpływ sztucznej inteligencji na świat może być nawet dziesięciokrotnie większy niż ten wywołany przez rewolucję przemysłową. Do tego rewolucja AGI będzie rozwijała się dziesięć razy szybciej niż przemysłowa. Powstanie superinteligencji oznaczałoby przyspieszenie badań naukowych, prac nad nowymi lekami i materiałami oraz nowymi źródłami czystej energii. W dłuższej perspektywie AI mogłaby doprowadzić do powstania świata, w którym zasoby przestaną być głównym ograniczeniem rozwoju gospodarczego.

AI rozwija się szybciej niż nasze zrozumienie

Zdaniem Hassabisa, rozwój najbardziej zaawansowanych modeli AI przebiega obecnie szybciej, niż rośnie wiedza o ich możliwościach i zagrożeniach. Już dziś – jak zauważa – modele graniczne (frontier models, najbardziej zaawansowane modele AI ogólnego przeznaczenia) stwarzają nowe wyzwania dla cyberbezpieczeństwa. W przyszłości mogą pojawić się również zagrożenia związane z bezpieczeństwem biologicznym, bronią jądrową czy coraz bardziej autonomicznymi systemami AI zdolnymi do samodoskonalenia.

Dodatkowym problemem jest globalny wyścig technologiczny między największymi firmami a państwami. Presja konkurencyjna napędza innowacje, ale jednocześnie ogranicza czas potrzebny na rzetelne testowanie bezpieczeństwa nowych modeli.

Apel szefa Google’a pojawia się kilka dni po publikacji głośnego raportu panelu naukowców przy ONZ. Wynika z niego, że AI rozwija się obecnie szybciej niż możliwości jej kontrolowania, a moc sztucznej inteligencji skupiona jest w rękach kilku firm technologicznych

Dlatego Hannabis proponuje utworzenie w USA nowej instytucji odpowiedzialnej za ocenę najbardziej zaawansowanych modeli AI o nazwie Frontier AI Standards Body – organizacji działającej podobnie do regulatorów rynku finansowego, łączącej administrację publiczną, środowisko naukowe oraz sektor prywatny.

Nowa instytucja miałaby:

• definiować, które modele AI należy uznawać za modele graniczne (Frontier Models),
• opracowywać testy bezpieczeństwa,
• prowadzić niezależne oceny modeli przed ich udostępnieniem użytkownikom,
• aktualizować benchmarki wraz z rozwojem technologii,
• współpracować z amerykańskimi laboratoriami narodowymi oraz agencjami odpowiedzialnymi za bezpieczeństwo państwa.

Firmy rozwijające najbardziej zaawansowane modele początkowo dobrowolnie przekazywałyby je do oceny nawet 30 dni przed premierą. W kolejnych etapach pozytywne przejście testów mogłoby stać się obowiązkowym warunkiem wprowadzenia modelu na rynek amerykański.

Testy cyberbezpieczeństwa, biologii i autonomii AI

Ocena modeli miałaby być znacznie poszerzona ponad klasyczne benchmarki wydajności i objąć m.in.:

• zdolność modeli do wspierania cyberataków,
• możliwość wykorzystania AI w zagrożeniach biologicznych,
• próby obchodzenia zabezpieczeń,
• zachowania wskazujące na oszukiwanie użytkowników,
• bezpieczeństwo systemów agentowych.

Wśród proponowanych standardów pojawiają się także cyfrowe znakowanie (watermarking) obrazów generowanych przez AI oraz rozwiązania zwiększające przejrzystość procesu wnioskowania modeli. Benchmarki miałyby być aktualizowane nawet co kwartał, aby nadążały za tempem rozwoju technologii.

Choć propozycja dotyczy USA, Hassabis wyraźnie podkreśla, że powinna stać się punktem wyjścia do budowy globalnego systemu zarządzania bezpieczeństwem AI. Jego zdaniem, technologia o mocy AGI nie może być regulowana wyłącznie na poziomie poszczególnych państw. Potrzebne są wspólne standardy międzynarodowe dotyczące oceny ryzyka oraz bezpieczeństwa, niezależnie od tego, czy są rozwijane przez firmy amerykańskie, europejskie czy azjatyckie.

Mniejsze modele, rozwijane przez startupy lub uczelnie, byłyby z tego systemu wyłączone, aby nie hamować innowacji.

„Przyszłość nie jest jeszcze napisana”

W końcowej części manifestu Hassabis zwraca uwagę, że nawet jeśli uda się rozwiązać techniczne problemy związane z bezpieczeństwem AGI, świat stanie przed znacznie trudniejszymi pytaniami dotyczącymi gospodarki, rynku pracy oraz roli człowieka.

Rozwój AGI może wymusić powstanie nowych modeli ekonomicznych. Świat będzie musiał przemyśleć na nowo, czym jest praca, dobrobyt i sens życia w świecie, w którym sztuczna inteligencja przejmie znaczną część aktywności intelektualnej. Dlatego – jak podkreśla – decyzje dotyczące przyszłości AI nie mogą należeć wyłącznie do firm technologicznych czy inżynierów. W dyskusję powinny zostać włączone rządy, naukowcy, przedsiębiorcy oraz całe społeczeństwo.

„Przyszłość nie jest jeszcze napisana” – podkreśla Hassabis na zakończenie swojego manifestu. Jego zdaniem świat ma jeszcze „cenne okno czasowe” przed nadejściem AGI, aby wspólnie wypracować zasady jej bezpiecznego rozwoju. Jeśli uda się zbudować globalne ramy współpracy, wykorzystać najbardziej rygorystyczne metody naukowe i skoordynować działania państw, nauki oraz przemysłu, AGI może zapoczątkować „nową złotą erę odkryć naukowych i postępu”.

Czytaj także: Raport ONZ. AI korzystna dla medycyny, ale wymyka się spod kontroli