„Disinformation and Cyberatics”: twórca sieci neuronowej Catgpt boi się własnego wynalazku (wideo)

Według Sama Altmana organy regulacyjne rządowe powinny zapobiegać niebezpiecznym konsekwencjom dla ludzkości z takich modeli językowych. Chatgpt poprawnie odpowiada na 90% pytań egzaminacyjnych prawnika i praktycznie nie jest mylony podczas szkolnego testu matematyki. Sam Altman, dyrektor generalny Openai, który opracował program oparty na Chatgpt, ostrzegł przed niebezpieczeństwem technologii zmieniających społeczeństwo. O tym zgłasza wiadomości ABC.

37-letni Altman podkreślił, że rządowe organy regulacyjne i społeczeństwo mają wspólne wysiłki, aby zapobiec potencjalnie niebezpiecznym konsekwencjom dla ludzkości. „Musimy zachować na to ostrożność. Szczególnie martwię się, że takie modele mogą być używane do dezinformacji o dużej skali”, powiedział Altman. „Teraz lepiej piszą kod komputerowy i mogą być używane w cyberatakach”.

Mówi, że pomimo wszystkich ryzyka Chatgpt może stać się „największą technologią”, którą ludzkość została jeszcze opracowana. Takie ostrzeżenie jednego z autorów tej technologii brzmiało po tym, jak Openai wprowadził najnowszą wersję modelu językowego SHI GPT-4 mniej niż cztery miesiące po wydaniu pierwszej wersji, która stała się programem niestandardowym, który rozwinął najszybszy w historii .

W wywiadzie przedstawiciel Openai zauważył, że rozwój nie jest idealny, ale jednocześnie podczas testu poprawnie odpowiedziała na 90% pytań do egzaminu prawnika i praktycznie nie popełniła błędów podczas testu szkolnego z matematyki . Ponadto AI może pisać kody w prawie wszystkich językach programowania. Większość obaw związanych z rozwojem sztucznej inteligencji zmniejsza się do faktu, że AIS całkowicie zastąpi osobę.

Jednak Altman zapewnia, że ​​system jest całkowicie kontrolowany przez człowieka. „AI czeka, aż ktoś wniesie wkład. Jest to narzędzie kontrolowane przez osobę” - wyjaśnił, dodając, że całe pytanie brzmi, kto je kontroluje. „Będą inni ludzie, którzy nie spełnią ograniczeń, których przestrzegamy. Myślę, że społeczeństwo to nie wystarczająco dużo czasu, aby zrozumieć, jak to regulować” - wyjaśnił.