OpenAI waarschuwde voor de ontdekking van AI die de mensheid zou kunnen bedreigen

De dag van te voren verbannen OpenAI-CEO Sam Altman en verschillende stafonderzoekers van het bedrijf schreven een brief aan de raad van bestuur brief waarin wordt gewaarschuwd voor de ontdekking van krachtige kunstmatige intelligentie, die volgens hen ‘een bedreiging zou kunnen vormen voor de mensheid." Hierover met verwijzing naar onze eigen bronnen schrijft Reuters.

Het was deze brief die werd aangehaald als een van de factoren in de lange lijst met klachten van de raad van bestuur die tot het ontslag van Altman leidden. Reuters kon niet persoonlijk met de auteurs spreken of commentaar krijgen van OpenAI. Na een dergelijk verzoek maakte het bedrijf echter in een intern bericht aan de werknemers het bestaan ​​bekend van een bepaald project genaamd Q* (uitgesproken als Q-Star).

Sommige OpenAI-medewerkers geloven dat Q* een doorbraak zou kunnen zijn in de zogenaamde algemene kunstmatige intelligentie

(AGI). OpenAI karakteriseert het als een autonoom systeem dat beter presteert dan mensen bij de meest economisch waardevolle taken.

Volgens één bron kan Q* tot nu toe alleen wiskundige problemen op elementair niveau uitvoeren. scholen, maar de succesvolle afronding van dergelijke tests geeft onderzoekers groot optimisme over de vooruitzichten daarvoor ontwikkeling.

Het belangrijkste verschil tussen dergelijke AI is dat het in staat is doelen te stellen, complexe problemen in kleine problemen op te delen, aan een breed scala aan problemen te werken en oplossingen te vinden waarbij rekening wordt gehouden met de context uit verschillende domeinen. Simpel gezegd kan dergelijke intelligentie in theorie een hooggekwalificeerde specialist met kennis, vaardigheden en uitgebreide ervaring vervangen.

Onderzoekers zijn van mening dat wiskunde het snijvlak is van generatieve AI. Tegenwoordig is hij goed in schrijven en vertalen, statistisch voorspellen van het volgende woord, en de antwoorden op dezelfde vraag kunnen enorm variëren. Maar het veroveren van de wiskunde (waar er maar één juist antwoord is) impliceert dat AI een breder redeneervermogen zal hebben dat lijkt op menselijke intelligentie. Dit kan bijvoorbeeld worden toegepast op nieuw wetenschappelijk onderzoek, zeggen experts.

In hun brief aan de raad van bestuur wezen de onderzoekers op de kracht van AI en de potentiële gevaren. Ze namen ook nota van het werk van een speciale groep ‘wetenschappers van kunstmatige intelligentie’, waarvan het bestaan ​​door talrijke bronnen werd bevestigd. Het team onderzoekt hoe ze bestaande AI-modellen kunnen optimaliseren om hun redenering te verbeteren en er uiteindelijk wetenschappelijk werk mee uit te voeren, zei een van de mensen.

Altman leidde de inspanningen om van ChatGPT een van de snelstgroeiende softwareapplicaties ter wereld te maken geschiedenis en trok de investeringen en computermiddelen van Microsoft aan die nodig zijn om dit te bewerkstelligen AGI. En kort voor zijn ontslag kondigde hij op de top van wereldleiders in San Francisco enkele ‘serieuze prestaties aan die voor de deur staan’.

Een dag later ontsloeg het bestuur Altman.

Misschien zullen al deze beslissingen en gebeurtenissen op een dag de basis vormen van een boek, een hele film of zelfs een geschiedenisboek.