Elon Musk drong erop aan om grote experimenten met AI op te schorten
Gemengde Berichten / / April 03, 2023
Hij werd ondersteund door vooraanstaande onderzoekers uit de industrie.
Non-profitorganisatie Future of Life Institute heeft een open brief gepubliceerd, ondertekend door Elon Musk, mede-oprichter van Apple Steve Wozniak, mede-oprichter van Skype Jaan Tallinn, evenals andere AI-onderzoekers en leidinggevenden van grote bedrijven.
De brief beweert dat de laboratoria verwikkeld zijn in een "uit de hand gelopen race" om te ontwikkelen en toe te passen machine learning-systemen die "niemand - zelfs niet hun makers - kunnen begrijpen, voorspellen of vol vertrouwen controle". Dit is wat de auteurs suggereren:
We roepen alle AI-labs op om de training over AI-systemen groter dan GPT-4 onmiddellijk voor ten minste 6 maanden op te schorten. De opschorting van operaties moet openbaar en verifieerbaar zijn en alle belangrijke spelers moeten erbij betrokken zijn. Als het niet mogelijk is om in de nabije toekomst te pauzeren, moeten de regeringen van de landen ingrijpen en een moratorium instellen.
Van Pause Giant AI Experiments: een open brief
In de brief wordt ook ontevredenheid geuit over de stelling “we zullen het vrijgeven zoals het is, we zullen het later repareren” bij het ontwikkelen van neurale netwerken (onthoud in ieder geval bard van Google). Zelfs AI openen heeft al gewezen op de potentiële behoefte aan toekomstige AI-beveiligingsaudits. De auteurs van de brief geloven dat deze toekomst al is aangebroken.
AI-ontwikkelaars en onafhankelijke experts zouden deze pauze moeten gebruiken om samen te ontwikkelen en te implementeren uniforme beveiligingsprotocollen voor complexe AI-systemen, waarvan de naleving wordt gecontroleerd door een externe onafhankelijke experts. Dergelijke protocollen helpen ervoor te zorgen dat systemen veilig genoeg zijn om te gebruiken.
Van Pause Giant AI Experiments: een open brief
De volledige tekst van de brief is te lezen Hier.
Lees ook🧐
- Hoe u ChatGPT in Telegram gebruikt en snel antwoord krijgt op al uw vragen zonder browser
- Hoe GPTZero te gebruiken, een tekstzoektool gemaakt door ChatGPT
- "ChatGPT zal het werk van een specialist niet vervangen": een interview met Web 3.0-expert Stas Ustenko