TrendAI Research visar att webbsidors textinnehåll kan styra hur Chromes inbyggda AI svarar.
Forskarna pekar också på en separat, ännu experimentell funktion som låter AI anropa verktyg och applikationer som gjorts tillgängliga i webbläsaren. Det öppnar för risker kopplade till hur verktygen används.
Chrome kan ha en AI-modell installerad lokalt på kompatibla datorer. TrendAI:s forskare har visat att instruktioner som bäddas in i innehållet på en webbsida kan påverka Chromes Summarizer och Writing Assistance. Det betyder att innehållet på webbsidor kan få AI:n att avvika från sin avsedda uppgift, utan att användarens vetskap.
Forskarna varnar även för Chromes experimentella funktion för verktygsanrop. Om funktionen är aktiverad och webbplatsen har gjort verktyg tillgängliga kan manipulerad text försöka få AI:n att anropa dem. Detta kan leda till skadliga handlingar via webbplatsen, som skickade mejl eller informationsläckage.
TrendAI uppger att attacken har genomförts i testmiljöer, men inte bekräftat användning i praktiken. Man har inte heller visat hela attackkedjan från sidbesök till skadlig handling.
– Det är allvarligt att innehåll på webbsidor kan påverka hur lokala AI-modeller svarar utan att användaren nödvändigtvis märker det, säger Andreas Christensen, VP Norden på TrendAI. Mitt råd till företag är att ta ställning till om den här funktionen ska vara aktiverad och granska hur deras egna webbapplikationer använder AI. Det är viktigt att vara medveten om att AI-svar kan påverkas av innehållet på en webbsida och alltid granska svar och förslag innan de leder till känsliga åtgärder.
Google har informerats om riskerna och har ersatt den tidigare lokala AI-modellen i Chromes bedrägeridetektor med en molnbaserad modell i Chrome 156. TrendAI:s resultat om påverkan i just den äldre bedrägeridetektorn gäller därför inte i den nya implementationen. Google har sagt att bolaget undersöker skydd mot promptinjektioner, men sårbarheten i Summarizer och Writing Assistance har inte åtgärdats.
Läs hela rapporten från TrendAI här: https://www.trendaisecurity.com/en-us/resources-insights/deep-research/the-browser-is-now-an-ai-runtime-security-risks-in-chromes-on-device-models
