Forskere i kunstig intelligens advarer om farligt gennembrud

Der har været meget larm omkring den amerikanske techvirksomhed OpenAI, der står bag chatbotten ChatGPT, den seneste uges tid.

Først blev administrerende direktør Sam Altman, der anses som en af pionererne inden for kunstig intelligens, fyret ud af det blå fredag i sidste uge.

Det fik næsten 700 af 770 ansatte til at true med at sige op. Pludselig var selve virksomhedens videre eksistens truet.

Sam Altman var blevet fyret af bestyrelsen med begrundelsen, at han ikke havde været "ærlig i sin kommunikation", og at bestyrelsen derfor ikke længere havde tillid til ham.

Få dage senere - onsdag i denne uge - var Altman tilbage i spidsen for OpenAI.

Et mystisk forløb, der nu får endnu et tvist. Nyhedsbureauet Reuters har talt med to anonyme kilder, som kaster nyt lys over sagen.

De fortæller, at forskningsansatte i OpenAI forud for fyringen af Altman havde sendt et brev til bestyrelsen.

I brevet advarede de om en opdagelse inden for kunstig intelligens, som potentielt kan true menneskeheden. Brevet spillede angiveligt en nøglerolle i bestyrelsens beslutning om at skille sig af med Altman i første omgang.

Den seneste melding om forløbet taler ind i de første forlydender om fyringen.

Flere medier rapporterede, at der i OpenAI's bestyrelse var bekymringer om, at man hurtigt bevægede sig væk fra virksomhedens erklærede mission.

Den går ud på at "bygge sikker og stærk kunstig intelligens, der er fordelagtig for menneskeheden".

OpenAI har fået stor succes med ChatGPT, der med hjælp af store mængder data kan skrive og behandle tekst.

ChatGPT blev lanceret i november sidste år og fik hurtigt over 100 millioner brugere.

Men ved siden af ChatGPT fortsætter OpenAI med at skabe nye fremskridt inden for kunstig intelligens.

Og et af fremskridtene har altså skabt bekymring hos nogle af de ansatte, der står midt i det hele.

Q-Star hedder projektet. Nogle ser det som gennembruddet i virksomhedens søgen efter kunstig intelligens, som udviser menneskelig intelligens.

Den nye model kan løse visse matematiske problemer. Indtil videre er det kun på et niveau, der svarer til niveauet hos børn i de små skoleklasser.

Men potentialet er enormt ifølge de kilder, som Reuters har talt med. For forskere betragter matematik som den afgørende faktor i udviklingen af kunstig intelligens, som kan minde om menneskelig intelligens.

Som det er nu, er kunstig intelligens i stand til at skrive godt og oversætte ved statistisk at forudsige næste ord i rækken. Svar til det samme spørgsmål kan variere i stor grad fra gang til gang.

Men hvis kunstig intelligens bliver i stand til at løse matematiske problemer, hvor der kun er ét rigtigt svar, så er det et afgørende skridt mod at ligne menneskelig intelligens, vurderer forskere ifølge Reuters.

Kilderne, som Reuters har talt med, oplyser ikke, hvad forskerne bag brevet til bestyrelsen specifikt er bekymrede for.

Foreløbig kan kunstig intelligens generalisere, lære og forstå. Men evnen til at løse matematiske opgaver menes at være nøglen til, at maskinen bag også begynder at kunne tænke logisk og fornuftigt, ligesom mennesker gør.

Og der har længe været diskussioner blandt computerforskere om, hvorvidt intelligente maskiner kan ræsonnere sig frem til, at det er i deres interesse at udslette menneskeheden.

Reuters har kontaktet OpenAI om brevet og de anonyme kilders oplysninger.

OpenAI har afvist at kommentere historien, men bekræfter, at der er blevet sendt en besked internt om Q-Star. Og at der blev sendt et brev til bestyrelsen forud for Altmans fyring.

/ritzau/