aicarriere.nl

Microsoft: AI kan nooit volledig veilig worden gemaakt

Nieuws
17-01-2025
Laurence van Aggelen
Microsoft-wetenschappers hebben de veiligheid van meer dan 100 generatieve AI-producten van het bedrijf getest en zijn tot een opmerkelijke conclusie gekomen: AI-modellen versterken bestaande beveiligingsrisico’s en introduceren nieuwe.

In een preprint-paper, Lessons from red-teaming 100 generative AI products, stellen de 26 auteurs, waaronder Azure-CTO Mark Russinovich, dat “AI-systemen nooit volledig veilig zullen zijn”.

Hoewel dit verontrustend klinkt, benadrukken de onderzoekers dat de kosten voor het aanvallen van AI-systemen verhoogd kunnen worden, zoals bij traditionele IT-beveiligingsmaatregelen door middel van ‘defense-in-depth’ en ‘security-by-design’.

AI-systemen

De paper biedt acht lessen, waarvan de eerste is om “te begrijpen wat het systeem kan en waar het wordt toegepast”. AI-modellen gedragen zich verschillend afhankelijk van hun ontwerp en toepassing, en een goed begrip hiervan is essentieel om effectieve verdediging te implementeren. Grotere modellen, zoals de Phi-3-reeks, blijken beter instructies te volgen, wat nuttig is voor gebruikers, maar ook risicovoller maakt bij kwaadaardige input.

[....]

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
Tio Business School
Marktconform
Medior
Utrecht
Als docent AI bij Tio Business School in Utrecht verzorg je Engelstalig hbo-onderwijs in de Minor Digital Business & Generative AI, met de modules Responsible AI en Human-AI Collaboration. Je...
NN
5.933 - 7.910
Medior
The Hague
As Data Enablement Engineer in the Data & AI Enablement team at NN, you help teams adopt Data & AI platforms and ways of working. You turn technology, governance requirements...
ING
6.728 - 10.753
Senior
Amsterdam, hybride
Als Lead New Products MGA bij ING Insurance leid je de ontwikkeling en introductie van nieuwe MGA-producten, van businesscase tot implementatie. Je bouwt relaties op met verzekeraars, acceptatie- en distributiepartners...
NN
5.339 - 7.119
Senior
Arnhem
As a Senior Software Engineer Java bij NN bouw en beheer je een developerplatform en CI/CD-pijplijnen, automatiseer je tooling, onderhoud en standaardiseer je het platform en ondersteun je teams met...