Al eerder waarschuwden we voor de risico’s voor de dataveiligheid in het gebruik van taalmodellen (LLMs) om werk over te nemen. Ook cybercriminelen zijn zich steeds meer bewust van de waarde van het meelezen met taalmodellen. Dat blijkt uit een recente waarschuwing van Microsoft over een malafide browserextensie die gesprekken met LLMs doorvoert aan kwaadwillenden.
Op basis van data uit Microsoft Defender is de schadelijke extensie inmiddels al ruim 900,000 keer geïnstalleerd, bij 20,000 bedrijven wereldwijd. Het gaat om een extensie voor browsers gebaseerd op de Chromium-architectuur, zoals Google Chrome en Microsoft Edge. Eenmaal geïnstalleerd is de extensie in staat om gegevens te verzamelen uit gesprekken die via de browser worden gevoerd met AI-platforms als ChatGPT en Deepseek.
De malafide extensies zijn ontworpen om in zowel uiterlijk als functionaliteit te lijken op legitieme browserextensies als AITOPIA. De schadelijke software wordt aangeboden via de Chrome Web Store, het platform waarop browserextensies voor Chromium-browsers aangeboden worden. Ook andere Chromium-browsers als Microsoft Edge maken gebruik van dit platform, en zijn compatibel met deze extensies. Eenmaal geïnstalleerd leest de malware mee met gesprekken, en kunnen gevoelige bedrijfs- en klantgegevens doorgestuurd worden naar cybercriminelen.
Om wantrouwen van gebruikers te verminderen wordt het verzamelen en doorsturen van data verborgen onder de mantel van het doorsturen van gebruikersgegevens voor analytische doeleinden. Het analyseren van gebruikersgegevens om het performance van de software te verbeteren en nieuwe functionaliteiten te ontwikkelen is iets wat veel ontwikkelaars doen.
Microsoft waarschuwt ook dat deze extensies in sommige gevallen automatisch zijn gedownload door agentic browsers. Dit zijn AI-gedreven browsers die bepaalde taken zelfstandig kunnen uitvoeren. Versies van deze browsers die zelfstandig extensies kunnen installeren, zijn echter ook in staat om zonder het als malware te herkennen deze schadelijke software te downloaden. De goedgelovigheid van agentic AI is iets waar al eerder voor werd gewaarschuwd.
Om te voorkomen dat uw organisatie slachtoffer wordt van deze vorm van cybercriminaliteit kunnen verschillende stappen worden genomen. Ten eerste is het belangrijk dat uw organisatie een streng beleid voert voor het installeren van browserextensies, zeker als uw organisatie ook agentic AI gebruikt. De cybercriminelen achter deze malware kunnen alleen toeslaan wanneer de deur ver genoeg open staat. Daarnaast is het belangrijk dat antivirussoftware ook mee kan kijken met browserextensies, en dat medewerkers getraind zijn in het herkennen van schadelijke browserextensies.