Sydafrika drar tillbaka AI-policy – efter att den visat sig vara skriven av AI
Sydafrikas kommunikationsminister Solly Malatsi har dragit tillbaka landets förslag till nationell AI-policy efter att minst sex av dokumentets 67 akademiska källor visat sig vara hallucinerade av AI. Nu ska den stackars policy som skulle göra Sydafrika till ledande inom AI innovation i stället revideras – med mänsklig tillsyn, den här gången.
PASSAGERARE: Solly Malatsi SITTPLATS: 7F – vid ett tomt bokhyllplan AVGÅNG: Trovärdighet DESTINATION: Hallucinationernas land ANLEDNING: För att lansera AI-policy med AI-genererade källor BAGAGE: Sex uppdiktade artiklar, ett förlorat ansikte, och en lång lista med nya riktlinjer för mänsklig tillsyn
Vad hände?
Sydafrika har dragit tillbaka sitt utkast till nationell AI-policy efter att det upptäckts att delar av texten var skriven av artificiell intelligens. Dokumentet innehöll påhittade källhänvisningar som inte existerade i verkligheten. Kommunikationsminister Solly Malatsi meddelade att minst sex av de 67 akademiska referenserna var så kallade AI-hallucinationer – det vill säga påhittade citat som AI:n genererat för att fylla luckor i sin data.
Utkastet lades fram för offentliga synpunkter och syftade till att göra Sydafrika till en ledare inom AI-innovation. Det innehöll planer på att inrätta nya institutioner som en nationell AI-kommission, en etisk nämnd för AI och en tillsynsmyndighet. Dessutom föreslogs skattelättnader, bidrag och subventioner för att uppmuntra privata företag att bygga AI-infrastruktur.
Problemet uppmärksammades av den sydafrikanska nyhetssajten News24, som fann att flera av de citerade artiklarna inte fanns. Tidskrifterna som nämndes var verkliga, men redaktörerna bekräftade att de aktuella artiklarna var falska. Malatsi kallade händelsen för ett allvarligt misslyckande som skadat dokumentets trovärdighet och lovade att de ansvariga skulle få konsekvenser.
Händelsen belyser en växande problematik där akademiker och myndigheter använder AI för att skriva texter utan tillräcklig mänsklig kontroll. En studie i tidskriften Nature visade att över 2,5 procent av alla vetenskapliga artiklar publicerade 2025 innehöll minst en hallucinerad referens, jämfört med 0,3 procent året innan. Detta understryker behovet av noggrann mänsklig granskning av AI-genererat material.
