In juni 2025 ontdekten onderzoekers een kwetsbaarheid die gevoelige Microsoft 365 Copilot-gegevens blootlegt zonder enige gebruikersinteractie. In tegenstelling tot conventionele inbreuken die afhankelijk zijn van phishing of gebruikersfouten, omzeilt deze exploit, nu bekend als EchoLeak, menselijk gedrag volledig, waarbij heimelijk vertrouwelijke informatie wordt geëxtraheerd door de manier te manipuleren waarop Copilot met gebruikersgegevens omgaat. Dit incident benadrukt een trieste realiteit: de huidige beveiligingsmodellen, ontworpen voor voorspelbare softwaresystemen en applicatielaagverdedigingen, zijn niet in staat om te gaan met de dynamische en onderling verbonden aard van de AI-infrastructuur.
