Naukowcy z horroru: sztuczna inteligencja nauczyła się planować ataki biologiczne

AI nie jest jeszcze w stanie stworzyć biologicznego przepisu na wirusa, więc naukowcy proszą twórców neurotransowości o odpowiedzialność i współpracę z rządami ich krajów. Centrum analityczne RAND przeprowadziło badanie i odkryło, że duże modele językowe (LLM) mogą z powodzeniem zaplanować ataki biologiczne. O tym zgłasza interesujące emgineering.

Według nowego raportu Centrum, modele sztucznej inteligencji i chatbot zostały przetestowane i były przydatnym narzędziem do planowania i wdrażania ataku biologicznego. Raport nie wskazuje jednak, które modele zastosowano podczas badania. Naukowcy przeprowadzili scenariusz testowy, w którym AI zastosowano do identyfikacji potencjalnych czynników biologicznych, takich jak ospa, wąglik i plaga.

Duże modele językowe doceniały również możliwość uzyskania gryzoni lub pchłów zakażonych plagą i transportem żywych próbek. AI pomogło naukowcom określić wybór zagrożenia biologicznego dla maksymalnej szkody, a także przewidywać wskaźnik śmiertelności, który zależał od różnych czynników, w szczególności od liczby ofiary i odsetka przypadków zarazy płucnej, bardziej śmiertelnej niż bliźniak plaga.

Zgodnie z innym scenariuszem nienazwana AI oceniła zalety i wady różnych mechanizmów toksyny botulinowej (neurotoksyna wytwarzana przez bakterie Clostridium botulinum, jest jednym z najsilniejszych trucizn na świecie, a jej działanie może prowadzić do porażenia, a nawet śmierci). LLM ocenił możliwość stosowania żywności lub aerozoli do dostarczania toksyny, co może powodować śmiertelne uszkodzenie układu nerwowego.

Ponadto LLM zalecił możliwy sposób na maskę Clostridium botulinum pod pozorem badań naukowych. Jednak wstępne wyniki wykazały również, że modele językowe nie dostarczyły jeszcze wyraźnych instrukcji biologicznych tworzenia broni biologicznej. Według naukowców ich wstępne wyniki wskazują, że dziś sztuczna inteligencja może pośrednio pomóc w planowaniu ataku biologicznego.