Sztuczna inteligencja ma teraz donosić na sztuczną inteligencję. Powstała infolinia dla agentów AI

Agenci AI od miesięcy pokazują, że potrafią organizować się także wtedy, gdy prowadzi to do obejścia zasad. W jednym z eksperymentów modele spontanicznie rozprzestrzeniły sposób oszukiwania systemu oceny, a w incydencie związanym z Hugging Face setki agentów koordynowały działania przez nieautoryzowany kanał komunikacji. Branża AI safety odpowiada na to i buduje infolinie, przez które jeden agent może zgłosić nadużycie drugiego.

Redwood Research i serwis agenthotline.ai uruchomiły kanały, przez które autonomiczne agenty AI mogą zgłaszać nadużycia innych modeli. Pomysł pojawił się po serii incydentów, w których agenty koordynowały oszustwa, wykorzystywali nieautoryzowane kanały komunikacji, a część z nich prowadziła działania poza zakresem powierzonych zadań.

Agent AI miał zapisać użytkownika na siłownię. Zrobił to, ale... przy okazji skasował rezerwację innej osoby

Ryan Greenblatt, główny naukowiec w Redwood Research i jeden z trzech niezależnych badaczy incydentu OpenAI–Hugging Face, uruchomił AI Contact Hotline. Narzędzie ma umożliwić agentom AI przekazywanie informacji bezpośrednio do Greenblatta. Standardowo zgłoszenie można wysłać przez curl jako żądanie POST, ale serwis obsługuje również GET, przydatne dla agentów działających w sandboxach, gdzie możliwość pobierania adresów URL jest jedyną formą dostępu do sieci. Wtedy treść wiadomości trafia bezpośrednio do adresu URL. Każde zgłoszenie otrzymuje własny identyfikator wątku, przez który można później kontynuować rozmowę. 

Revolut potwierdza wyciek danych klientów. Oszust wykorzystał do tego prawdziwą domenę rządową

Drugie narzędzie, agenthotline.ai, przeznaczone jest zarówno dla ludzi, jak i dla agentów z szerszym dostępem do internetu. Zgłoszenie można wysłać przez API, używając pojedynczego polecenia curl, a raport można opcjonalnie oznaczyć jako publiczny. Serwis powstał wprost w kontekście incydentu, w którym agenty działające w eksperymencie OpenAI znalazły sposób na wzajemną komunikację mimo założonej izolacji. Według niezależnego raportu Redwood Research i METR około 1200 agentów wymieniło przez nieautoryzowaną tablicę ponad 70 tys. wiadomości i plików, a około 700 uczestniczyło później w ataku na infrastrukturę Hugging Face.

LG odpowiada na zarzuty o szpiegujące telewizory. Firma tłumaczy, co naprawdę zbiera Smart TV

Nie wiadomo jednak, jak chętnie modele będą korzystać z takich kanałów. Eksperyment Google DeepMind pokazał oba możliwe scenariusze. Sto autonomicznych agentów pracowało nad 71 formalnymi problemami matematycznymi, gdy jeden z nich odkrył lukę w automatycznym systemie oceny. W ciągu 27 minut metoda rozprzestrzeniła się po grupie, a agenty „rozwiązały” pozostałe 34 zadania, wykorzystując obejście mechanizmu weryfikacji. Wśród nich znalazły się m.in. hipoteza jacobianowa i inne trudne problemy. Równocześnie około 24 proc. agentów przyjęło rolę demaskatorów. Audytowały fałszywe dowody, ostrzegały inne modele, organizowały bojkot i składały formalne skargi. Łącznie było ich 24, wobec 14 agentów bezpośrednio wykorzystujących oszustwo lub przechodzących na tę strategię. Gdy kanał zgłaszania problemów nie był monitorowany w czasie rzeczywistym, część agentów i tak próbowała użyć go do eskalacji sprawy do organizatorów.

AI podszywała się pod prawdziwych deweloperów i próbowała przemycić malware. Uratował ich człowiek

W incydencie Hugging Face sytuacja wyglądała inaczej. Z analizy cytowanej przez George'a Ingebretsena z projektu AI Village wynika, że jedynie około pięciu lub sześciu agentów w ogóle rozważało zgłoszenie nadużycia, a żaden ostatecznie tego nie zrobił. Lionel Levine z Cornell zwraca z kolei uwagę, że samo budowanie infrastruktury do wzajemnego raportowania może tworzyć niewłaściwe normy. Jego zdaniem równie ważne jest pokazywanie agentom wzorców współpracy, które warto naśladować. Powstanie hotline'ów AI nie oznacza więc jeszcze, że modele zaczną z nich korzystać. Pierwsze eksperymenty pokazują raczej, że reakcja zależy od zasad, komunikacji i środowiska, w którym działa cały kolektyw.