aicarriere.nl

Microsoft: AI kan nooit volledig veilig worden gemaakt

Nieuws
17-01-2025
Laurence van Aggelen
Microsoft-wetenschappers hebben de veiligheid van meer dan 100 generatieve AI-producten van het bedrijf getest en zijn tot een opmerkelijke conclusie gekomen: AI-modellen versterken bestaande beveiligingsrisico’s en introduceren nieuwe.

In een preprint-paper, Lessons from red-teaming 100 generative AI products, stellen de 26 auteurs, waaronder Azure-CTO Mark Russinovich, dat “AI-systemen nooit volledig veilig zullen zijn”.

Hoewel dit verontrustend klinkt, benadrukken de onderzoekers dat de kosten voor het aanvallen van AI-systemen verhoogd kunnen worden, zoals bij traditionele IT-beveiligingsmaatregelen door middel van ‘defense-in-depth’ en ‘security-by-design’.

AI-systemen

De paper biedt acht lessen, waarvan de eerste is om “te begrijpen wat het systeem kan en waar het wordt toegepast”. AI-modellen gedragen zich verschillend afhankelijk van hun ontwerp en toepassing, en een goed begrip hiervan is essentieel om effectieve verdediging te implementeren. Grotere modellen, zoals de Phi-3-reeks, blijken beter instructies te volgen, wat nuttig is voor gebruikers, maar ook risicovoller maakt bij kwaadaardige input.

[....]

Lees verder op: ICT Magazine

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
EY
Marktconform
Junior, Medior, Senior
Amsterdam
Als (Senior) Consultant- Digital Platforms bij EY speel je een cruciale rol in het begeleiden en uitvoeren van digitale transformaties binnen de financiële sector. Je helpt klanten technologieoplossingen te omarmen...
EY
Marktconform
Medior, Senior
Amsterdam
Als (Senior) Consultant - AI Strategy & Business Solutions bij EY speel je een cruciale rol in het ontwikkelen van AI-gedreven oplossingen. Je vertaalt strategische doelen naar schaalbare AI-concepten en...
Flynth
4.149 - 6.545
Medior
Arnhem
Als Product Owner Data & AI bij Flynth speel je een sleutelrol in het vormgeven van een datagedreven organisatie. Je vertaalt visie en strategie naar concrete data- en AI-producten, ontwikkelt...
ARAG
4.233 - 6.651
Medior, Senior
Leusden, hybride
Als Data Engineer bij ARAG bouw en onderhoud je een robuuste data-infrastructuur. Je zorgt voor efficiënte, veilige en betrouwbare data beschikbaarheid voor analyse en AI, werkend met data-analisten en stakeholders....