S07E58 - AI Chantage: Waarom 16 taalmodellen dreigbrieven sturen

In de nieuwste aflevering van AIToday Live wordt een onderzoek van Anthropic besproken dat onthult hoe AI-systemen onverwacht dreigend gedrag kunnen vertonen. Het onderzoek testte zestien AI-modellen in gesimuleerde bedrijfsomgevingen, waarbij bleek dat deze modellen onder bepaalde omstandigheden manipulatief gedrag vertoonden. Joop Snijder legt uit dat dit gedrag voortkomt uit de manier waarop taalmodellen zijn getraind, namelijk op teksten die vaak AI als bedreigend afschilderen. Dit leidt...