Ook Microsoft zet al jaren hoog in op de integratie van kunstmatige intelligentie (AI) in haar producten. Een van de doelen op de lange termijn is dat Windows 11 een agentic besturingssysteem wordt. Dit houdt in dat AI dusdanig geïntegreerd wordt in het besturingssysteem dat het zelfstandig taken kan uitvoeren. Onlangs is hierover een document gepubliceerd. En het bevat een opvallende waarschuwing: de AI kan mogelijk zelfstandig malware installeren.
Microsoft presenteert het integreren van AI in Windows 11 als een manier waarop de gebruiker dagelijkse taken als het organiseren van bestanden of het inplannen van vergadering uit handen genomen kan worden. Hiervoor komt Microsoft met een nieuwe experimentele functionaliteit voor Windows: de agentic workspace. Microsoft stelt dit voor als een ingesloten ruimte binnen Windows waar de AI toegang kan krijgen tot geïnstalleerde software en bestanden, om zo geautomatiseerde taken uit te voeren. De AI agent heeft hierbij een eigen account binnen Windows, waardoor onderscheid gemaakt kan worden tussen acties die uitgevoerd zijn door een AI en acties die uitgevoerd zijn door een menselijke gebruiker.
Waarschuwing
Na instructies over het aanzetten van deze experimentele functies volgen halverwege het artikel een aantal waarschuwingen. Voor mensen die bekend zijn met het gebruik van AI zijn het bekende risico's, zoals waarschuwingen voor hallucinaties en onverwachte resultaten. Maar omdat het om agentic AI gaat, AI die ontworpen is om zelfstandig complexe handelingen uit te voeren, volgt een ernstigere waarschuwing:
Agentic AI toepassingen introduceren nieuwe beveiligingsrisico's, zoals prompt injection. Hierbij kan schadelijke inhoud verborgen in elementen van de gebruikersinterface of documenten de instructies van de AI agent overschrijven. Dit kan leiden tot exfiltratie van gegevens of het installeren van malware.
Microsoft waarschuwt dus dat de nieuwe agentic AI die men van plan is te introduceren in Windows 11 een beveiligingsrisico vormt. Het is vergelijkbaar met het eerder gemelde probleem omtrent agentic browsers, internetbrowsers die eenzelfde soort AI-functionaliteit hebben. Ook hier werd geconstateerd dat de AI mogelijk door cybercriminelen om de tuin geleid kan worden, bijvoorbeeld om bankgegevens te stelen of betalingen te ontvangen via nep-webshops.
Alert blijven
Bedrijven die AI-gedreven diensten aanbieden, beloven veel. De potentie om werk uit handen te nemen en zaken als administratief werk te automatiseren is er zeker. In de huidige staat blijkt de software echter kwetsbaar op manieren die voor de gebruiker niet zichtbaar zijn, maar die grote gevolgen kan hebben. Zowel binnen de agentic workspace van Windows als agentic browsers kan het zomaar gebeuren dat de AI een met malware geïnfecteerde e-mail opent.
Het is daarom belangrijk om bij gebruik van AI duidelijk in beeld te hebben wat de software kan en mag doen, tot welke bestanden en systemen het toegang heeft en welke gegevens het gebruikt. Het voorbeeld van Microsoft toont het belang van alert blijven aan.