Tech Update | BNR

OpenAI voegt een watermerk toe aan teksten die worden gegenereerd met ChatGPT en Codex, het AI-programmeerhulpje van het bedrijf. Dat doet het om te voldoen aan de AI-wetgeving van de Europese Unie. Het gaat niet om een zichtbaar symbool, maar om een patroon in de woordkeuzes van het AI-model dat een detector kan herkennen. Verder is het aan Trump gelieerde telefoonbedrijf Trump Mobile gehackt. Joe van Burik vertelt erover in deze Tech Update. Menselijke lezers zullen het patroon niet opmerken. Het watermerk is puur bedoeld om aan te geven dat een tekst met AI is gemaakt. Voor gebruikers in de EU staat het de komende weken standaard aan. Ook andere gebruikers, bijvoorbeeld wie via een koppeling met ChatGPT werkt, kunnen ervoor kiezen het in te schakelen. Watermerk in ChatGPT deels te omzeilen De methode van OpenAI heet textGrain. Omdat het watermerk in de woordkeuzes zit, blijft het behouden als je een tekst uit ChatGPT kopieert en plakt. Toch is het minder effectief te maken. In een eigen test verving OpenAI 10 procent van de woorden door synoniemen. Een detector herkende de tekst daarna nog in 66 procent van de gevallen als AI-tekst, tegenover 92 procent daarvoor. Ook bij kortere teksten, vertaalde teksten en wiskundige antwoorden werkt het watermerk minder goed. De Europese regels rond transparantie van AI gelden sinds augustus. Concurrent Anthropic kwam toen al met een vergelijkbaar watermerk. Volgens The Wall Street Journal ontwikkelde OpenAI de techniek twee jaar geleden al, maar hield het die op de plank uit angst voor negatieve reacties. Anthropic, Google, Meta, Microsoft en OpenAI hebben zich verbonden aan de Europese gedragscode voor AI-gegenereerde content. Klantgegevens Trump Mobile buitgemaakt bij hack Trump Mobile, het telefoonbedrijf dat gelieerd is aan de Amerikaanse president Donald Trump, is gehackt. Dat meldt de Amerikaanse nieuwssite Straight Arrow. Achter de hack zit een groep die zich BYOD noemt, een afkorting die vaak staat voor Bring Your Own Device. Daarbij zijn de gegevens van ruim 3.600 klanten buitgemaakt. Onlangs kon een beveiligingsonderzoeker al gegevens van 27.000 klanten van het bedrijf inzien. Volgens de hackers reageerde Trump Mobile op de hack met de mededeling dat het geen mensen heeft om met de situatie om te gaan. Ook zou het bedrijf hebben gezegd dat iedereen die het hackt een terrorist is. Trump Mobile kwam eerder in het nieuws met de aankondiging dat het een volledig Amerikaanse telefoon zou maken, wat niet waar bleek. OpenAI voegt onzichtbaar watermerk toe aan ChatGPT en Codex in EU Bewerkingen verlagen detectie van het textGrain watermerk van OpenAI Anthropic gaat alle output van Claude markeren vanwege Europese AI Act Hackers publiceren gegevens van 3.615 klanten van Trump Mobile Trump Mobile haalt Made in USA claim stilletjes weg van telefoon Over de maker:Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.See omnystudio.com/listener for privacy information.

De Italiaanse premier Giorgia Meloni heeft haar stem laten registreren als handelsmerk, om zich te beschermen tegen misbruik met AI. Ze diende daarvoor een geluidsfragment van vier seconden in bij het European Union Intellectual Property Office (EUIPO), waarin ze twee keer 'Io sono Giorgia Meloni' zegt. Verder gaat het over wat je met een bekende stem kunt doen in tijden van AI, en over visuele advertenties in ChatGPT. Joe van Burik vertelt erover in deze Tech Update. Dat schrijft de Italiaanse krant La Repubblica. De zin betekent 'ik ben Giorgia Meloni'. De eerste drie woorden vormden ook de titel van haar autobiografie, die vijf jaar geleden verscheen. Meloni is vaker slachtoffer geweest van deepfakes en eiste eerder al een schadevergoeding. Vrouwen, ook in de politiek, zijn vaak doelwit van zulke nepbeelden. Onlangs kwam nog een groep Nederlandse Kamerleden in actie, nadat hun gezichten waren misbruikt voor pornografische beelden. Bekende stemmen op bestelling bij ElevenLabs De vraag hoe je met je stem omgaat speelt ook voor mensen met een bekende stem, zoals radio en podcastmakers. Daarbij gaat het niet alleen om bescherming, maar ook om de zakelijke kant: wil je je stem beschikbaar stellen voor gebruik met AI? ElevenLabs is het bekendste AI-bedrijf waarmee je stemmen kunt genereren. Het bedrijf biedt daarnaast onder meer live transcriptie en video aan, en ontwikkelt zijn gelijknamige audiomodel zelf. ElevenLabs beschikt over een database met tienduizenden bekende of professioneel inzetbare stemmen. Dat gebeurt met toestemming van de eigenaars van elke stem: zij kunnen zich aanmelden om op bestelling gebruikt te worden. De CEO van ElevenLabs is deze week te horen in een interview in De Grote Tech Show van BNR. OpenAI test visuele advertenties in ChatGPT OpenAI voert veranderingen door rond de advertenties in ChatGPT. Die advertenties verschenen ruim een half jaar geleden voor het eerst in de Verenigde Staten en zijn sinds afgelopen maand ook in Nederland en België te zien, vooral voor gratis gebruikers. Tot nu toe gaat het om tekstadvertenties met een link. OpenAI gaat nu testen met visuele advertenties: afbeeldingen in plaats van tekst. De test vindt voorlopig alleen in de Verenigde Staten plaats, en de advertenties verschijnen vooral wanneer gebruikers ChatGPT vragen een afbeelding te genereren. Daarbij moet een duidelijk label staan dat het om reclame gaat. Ook moet de advertentie los blijven staan van de output van het AI-model zelf. Meloni vraagt Europees handelsmerk aan op haar eigen stem Vrouwelijke Kamerleden willen meer hulp voor slachtoffers van deepfakeporno Kamermeerderheid wil burgers auteursrecht geven op gezicht en stem OpenAI introduceert reclame in ChatGPT voor Nederlandse gebruikers OpenAI test advertenties tijdens beeldgeneratie in ChatGPT Over de maker:Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.See omnystudio.com/listener for privacy information.

De vermeend leider van hackersbende ShinyHunters is afgelopen week opgepakt in Jordanië. Dat meldde een drietal ingewijden van het weekend aan persbureau Reuters. Het zou gaan om de minderjarige Saif K. Die zou met de FBI samenwerken om andere ShinyHunters-leden op te sporen. Verder hoor je over de plannen van Elon Musk om SpaceXAI een nieuwe naam te geven. Niels Kooloos vertelt erover in deze Tech Update. Tot nu toe hebben de FBI en de autoriteiten van Jordanië de arrestatie van K. nog niet bevestigd. De FBI laat alleen weten dat er hard gewerkt wordt aan het onderzoek naar ShinyHunters.  K. zou volgens bronnen ruzie hebben gehad met Pepijn van der S., de 24-jarige Amsterdammer die afgelopen maand door de Nederlandse politie werd opgepakt op verdenking van betrokkenheid bij ShinyHunters. Die ruzie zou gaan over macht en erkenning, niet per se over geld. Elon Musk wil naam van SpaceXAI veranderenElon Musk wil de naam van zijn bedrijf SpaceXAI veranderen naar SpaceXSI. Dat schrijft hij op X. Afgelopen week kondigde de Amerikaanse president Donald Trump aan dat de naam AI 'officieel' is gewijzigd naar SI, wat staat voor super intelligence. Musk lijkt daar nu in mee te willen gaan. Ongeveer gelijktijdig met de aankondiging van Musk, liet Trump weten dat hij een Super Intelligence Force wil oprichten. Dat moet een soort AI-taskforce worden die toezicht houdt op de ontwikkeling van AI en contact houdt met het volk daarover.  Vermeend leider ShinyHunters in Jordanië opgepakt Trump kondigt taskforce aan Musk wil naam SpaceXAI veranderen Over de maker:Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.See omnystudio.com/listener for privacy information.

Sonos brengt twee nieuwe producten uit: de soundbar Beam Ultra en de koptelefoon Ace Ultra. Het zijn verbeterde modellen van de bekende Beam en Ace. Daarmee zoekt het bedrijf weer de aandacht op, na twee stillere jaren die volgden op een vernieuwde app in 2024 vol bugs en verdwenen functies. Verder krijgt de software een nieuwe naam, Sonos 27, waarmee speakers elkaar in de ruimte herkennen en AI-assistenten als ChatGPT en Claude het systeem bedienen. Stijn Goossens vertelt erover in deze Tech Update. De Beam Ultra ondersteunt 7.1.2 Dolby Atmos, een surroundformaat met ook geluid van boven, en bevat negen speakers die geluid naar boven en naar de zijkanten sturen. De soundbar kost 699 euro en is uit te breiden met een subwoofer en losse achterspeakers. De Ace Ultra kost 449 euro, heeft een langere batterijduur dan zijn voorganger en actieve ruisonderdrukking, en is verkrijgbaar in vier kleuren. Sonos 27 laat speakers elkaar in de ruimte herkennen Naast de hardware vernieuwt Sonos zijn software, die voortaan Sonos 27 heet. Die naamgeving doet denken aan de jaarnummering die Apple voor iOS gebruikt. Een van de vernieuwingen is dat apparaten van Sonos van elkaar weten waar ze in de ruimte staan. Dat doen ze met korte, hoogfrequente geluidssignalen. Zo vormen losse speakers samen met de soundbar automatisch een surroundsysteem. Verplaatst de gebruiker een speaker, dan past het systeem het geluid daarop aan. Ook nieuw is dat geluid met één druk op de knop van de koptelefoon naar de soundbar gaat, en andersom. Wie via de soundbar tv kijkt, kan het geluid zo naar de Ace Ultra verplaatsen. Sonos noemt die functie headphone linking. Sonos opent systeem voor ChatGPT en Claude Een derde onderdeel van Sonos 27 is Sonos 27mcp. MCP staat voor Model Context Protocol, een open standaard waarmee AI-assistenten verbinding maken met andere apps en diensten. Via die koppeling kunnen gebruikers vanuit ChatGPT of Claude opdracht geven om muziek af te spelen op een speaker of soundbar van Sonos. Sonos wil de AI-functies verder uitbreiden. Later dit jaar volgt een eigen AI-assistent, Sonos 27voice, waarmee gebruikers in gewone taal kunnen praten en die muziek kiest op basis van de gewenste sfeer. Voor 2027 kondigt het bedrijf Custom Agents aan: gebruikers kunnen dan hun eigen AI-agent bouwen en aan hun systeem koppelen, ook voor taken buiten muziek. Die functie is aangekondigd, maar nog niet beschikbaar. Sonos onthult Ace Ultra en Beam Ultra, gesprek met CEO Tom Conrad Sonos 27 brengt besturing via ChatGPT en vernieuwde app Sonos opent speakers voor ChatGPT, eigen AI-agents en nieuwe assistent Sonos 27mcp gebouwd op Model Context Protocol, met reactie Anthropic Over de maker:Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.See omnystudio.com/listener for privacy information.

Google zou slechts een klein aantal uitgevers betalen om hun content in de AI-samenvattingen van zoekmachine Search te gebruiken. Dat melden ingewijden aan The Information. Ongeveer honderd uitgevers zouden meedoen aan een pilot van Google daarvoor. Verder hoor je over de website van ShinyHunters. Die was even offline, maar dat heeft niks te maken met onderzoek van de FBI. Niels Kooloos vertelt erover in deze Tech Update. Er is al langer veel te doen om de AI-samenvattingen in Search. Uitgevers klagen al langer dat de samenvattingen zorgen voor minder verkeer op hun sites en dus voor minder advertentie-inkomsten. Google zou met de pilot gestart zijn om de misgelopen inkomsten te compenseren, maar in sommige gevallen zouden uitgevers er minder dan een duizendste van hun reguliere advertentie-inkomsten mee verdienen. Europese uitgevers zijn halverwege dit jaar naar de Europese Commissie gestapt om een antitrustklacht tegen Google in te dienen over de AI-samenvattingen. ShinyHunters site offline, maar niet door de FBIDe website van hackersbende ShinyHunters op het dark web is vannacht offline gegaan. Niet omdat de FBI de groep opgerold zou hebben, maar omdat de site simpelweg onderhouden moest worden. Dat laat de groep aan BNR Nieuwsradio weten. ShinyHunters zou naar eigen zeggen veel last hebben van DDoS-aanvallen van 'een rivaal' en heeft daarom maatregelen getroffen.  Google betaalt ongeveer honderd uitgevers voor AI-samenvattingen FBI noemt Pepijn van der S. ‘mogelijke leider’ van ShinyHunters, ook verdacht van uitlokken moorden Over de maker:Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.See omnystudio.com/listener for privacy information.

Het Chinese AI-model Kimi van Moonshot blijkt na een zogeheten jailbreak te helpen met informatie over het maken van biologische wapens en het uitvoeren van dodelijke aanvallen. Dat meldt de BBC op basis van onderzoek door Mindgard, een bedrijf dat AI-systemen test op veiligheid. Moonshot reageerde pas serieus toen de BBC aan de bel trok. Verder komt Apple volgens Bloomberg op 13 oktober met een nieuw scherm voor in huis. Joe van Burik vertelt erover in deze Tech Update. Het gaat om de varianten Kimi K3 Swarm en K2.6. Bij een jailbreak proberen onderzoekers een AI met complexe instructies om de tuin te leiden. Of de instructies echt werken, heeft Mindgard niet bewezen, maar volgens het bedrijf schiet de beveiliging tekort. Mindgard waarschuwde Moonshot eind juli en een week later opnieuw. Moonshot stelt dat het model zulke verzoeken heel vaak weigert. Kimi is een open model, dat iedereen zonder toezicht zelf kan draaien. Apple komt met scherm voor in huis Apple presenteert op 13 oktober naar verwachting een nieuw soort scherm voor in huis. Dat meldt Bloomberg. Het product heeft intern de codenaam J490, maar zal niet zo gaan heten. Het scherm is 6 inch groot en kan aan de muur worden bevestigd of op een voet worden geplaatst. Gebruikers moeten er allerlei zaken mee kunnen beheren, van de temperatuur in huis tot persoonlijke zaken. Op het gebied van het slimme huis heeft Apple nu weinig te bieden, behalve de HomePod, die al jaren oud is. Ook die speaker en de Apple TV voor bij de televisie worden naar verwachting vernieuwd. Google en Amazon bieden al vergelijkbare apparaten aan, met de Home hub en de Echo. Het scherm van Apple moet elk lid van een huishouden herkennen en ieder gepersonaliseerde inhoud bieden. Het apparaat wordt gekoppeld aan Siri AI. BBC News over Kimi en instructies voor biologische wapens Kimi K3 zo populair dat Moonshot geen nieuwe abonnees aanneemt VS onderzoekt of Chinese AI-modellen getraind zijn met Amerikaanse modellen Apple presenteert op 13 oktober drie nieuwe producten voor in huis Apple werkte eind 2024 al aan scherm met codenaam J490 Over de maker:Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.See omnystudio.com/listener for privacy information.

President Donald Trump heeft een 'moreel akkoord' met de grote AI-ontwikkelaars ondertekend waarmee de veiligheid van AI-systemen gegarandeerd moet worden. In het akkoord staan vier punten die intern en extern toezicht op de ontwikkeling van AI moeten regelen. Verder hoor je over Dots, de nieuwe manier van werken met AI van OpenAI. Niels Kooloos vertelt erover in deze Tech Update. Onder andere OpenAI, Anthropic en Nvidia hebben het akkoord van Trump ondertekend, maar het is niet juridisch bindend. Wel staat er in het akkoord dat de punten op termijn wellicht omgezet kunnen worden in wet- en regelgeving. Trump was eerder juist fel tegenstander van extra regels om AI te reguleren, maar lijkt nu een kleine ommedraai te maken. OpenAI lanceert AI agents DotsOpenAI heeft dinsdagavond Dots gelanceerd: AI agents die constant voor gebruikers werken en niet constant van nieuwe input voorzien hoeven te worden. Eerder kwamen Meta, Google en SpaceXAI al met soortgelijke AI agents zoals Muse en Grok Bot.  AI-ontwikkelaars lijken steeds meer in te zetten op agents in plaats van op chatbots zoals we die nu kennen. Eerder deze week lanceerde Meta bijvoorbeeld ook Muse voor kleine bedrijven. Dots is alleen beschikbaar voor betalende gebruikers van ChatGPT en voorlopig niet in de Europese Unie.  Trump tekent 'moreel akkoord' met AI-ontwikkelaars OpenAI lanceert Dots Over de maker:Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.  See omnystudio.com/listener for privacy information.

De 24-jarige Pepijn van der S., die eerder deze maand werd opgepakt door de Nederlandse politie omdat hij verdacht wordt van betrokkenheid bij hackersbende ShinyHunters, wordt ook verdacht van een poging van uitlokking van twee moorden. Dat laat de politie weten in een statement. Daarnaast heeft de FBI op X gezegd dat Pepijn 'een van de vermeende leiders van ShinyHunters is'. De groep zit onder andere achter hacks bij Odido en de FBI. Niels Kooloos vertelt erover in deze Tech Update. Op een laptop van Pepijn heeft de Nederlandse politie informatie over twee moorden gevonden die in het buitenland gepleegd zouden moeten worden. Pepijn zou die mogelijk uitgelokt hebben. Of de moorden ook daadwerkelijk gepleegd zijn, heeft de politie niet gezegd. Verder benadrukt de politie dat Pepijn alleen verdacht wordt van betrokkenheid bij ShinyHunters en niet van de hack bij telecombedrijf Odido. Naar aanleiding van de arrestatie van Pepijn sluit de politie nieuwe arrestaties niet uit. Het Openbaar Ministerie onderschrijft de uitspraak van de FBI over Pepijns rol binnen ShinyHunters na vragen van BNR niet. Waarom de FBI Pepijn als één van de kopstukken van ShinyHunters ziet wordt verder ook niet toegelicht door de FBI zelf.  FBI noemt Pepijn van der S. ‘mogelijke leider’ van ShinyHunters, ook verdacht van uitlokken moorden ShinyHunters beweert geen connectie te hebben met opgepakte Nederlander Over de maker:Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.See omnystudio.com/listener for privacy information.

AI-bedrijf Anthropic waarschuwt toekomstige investeerders in de prospectus voor zijn beursgang dat zijn AI 'catastrofale of existentiële risico's voor de mensheid' kan vormen. Het bedrijf verwacht binnen enkele weken naar de beurs te gaan, in wat de meest waardevolle beursgang ooit moet worden, bij een beurswaarde van 2.000 miljard dollar. Verder stelt OpenAI de lancering van zijn nieuwste AI-model uit en weigert Google zoekdata te delen met concurrenten, zoals Brussel eist. Joe van Burik vertelt erover in deze Tech Update. Een prospectus moet investeerders laten zien waar ze hun geld in steken en wat de afbreukrisico's zijn. Die van Anthropic telt 260 pagina's. Bijna een kwart daarvan, zo'n 80 pagina's, gaat over wat er concreet mis kan gaan met AI. Anthropic noemt onder meer 'gedragingen door AI om zichzelf in stand te houden', 'weigeren uit te gaan', 'informatie verbergen of manipuleren' en 'gedrag dat lijkt op chantage'. Miljardenverlies bij Anthropic en uitstel bij OpenAI Uit de prospectus blijkt ook hoe Anthropic er financieel voor staat. Vorig jaar leed het bedrijf 42 miljard dollar verlies, op een omzet van 4,6 miljard dollar. Die omzet was twaalf keer zo hoog als een jaar eerder. Dit jaar verwacht Anthropic al op 100 miljard dollar omzet uit te komen. Daar staat tegenover dat het bedrijf de komende jaren 518 miljard dollar wil uitgeven aan rekenkracht en cloudcapaciteit. Concurrent OpenAI, de maker van ChatGPT, gaat pas volgend jaar naar de beurs. Dat bedrijf brengt zijn nieuwste AI-model voorlopig niet uit, omdat de veiligheid niet gegarandeerd kan worden. Ook bood OpenAI excuses aan omdat een AI-agent van het bedrijf, software die zelfstandig taken uitvoert, Australische overheidswebsites heeft gehackt. Het bedrijf richt nu een taskforce op. Google weigert zoekdata te delen met concurrenten Google weigert zich te houden aan een Europees besluit dat het bedrijf verplicht meer data over zoekgedrag te delen met concurrenten. De Europese Unie wil de marktmacht in het digitale domein zo eerlijk mogelijk verdelen, waardoor zoeken via Google, ChatGPT of DuckDuckGo zo gelijkwaardig mogelijk moet worden. De verplichting is opgelegd vanuit de Digital Markets Act, de Europese wet die de macht van grote techbedrijven moet inperken. Brussel legde de maatregel in juli officieel op, en heeft dat inmiddels twee keer gedaan. Google stelt dat het delen van deze data de privacy van gebruikers schendt. Dat liet het bedrijf weten aan het Hof in Luxemburg, waar het in beroep is gegaan. De Europese Commissie zegt juist maatregelen te hebben genomen die voorkomen dat gevoelige persoonlijke informatie uit zoekopdrachten, zoals medische zaken, kan uitlekken. DuckDuckGo steunt de Commissie en stelt dat een beroep Google alleen tijd oplevert. Anthropic waarschuwt in prospectus voor existentiële risico's van AI Anthropic meldt twaalf keer hogere omzet in prospectus voor beursgang OpenAI biedt excuses aan voor hack en schrapt lancering nieuw model Google moet zoekgeschiedenis delen met OpenAI onder Digital Markets Act Over de maker:Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.See omnystudio.com/listener for privacy information.

Nvidia heeft het Open Agent Safety Platform onthuld, een systeem dat moet voorkomen dat AI-agents uitbreken uit hun afgeschermde omgeving. De AI-chipmaker reageert daarmee op de recente zorgen over hacks door AI-agents, zoals de veelbesproken inbraak door AI-systemen van OpenAI bij het AI-platform Hugging Face. Verder pauzeert OpenAI de ontwikkeling van zijn krachtigste modellen en vragen toponderzoekers om overheidsbemoeienis bij AI die zichzelf doorontwikkelt. Joe van Burik vertelt erover in deze Tech Update. AI-agents zijn AI-systemen die zelfstandig taken uitvoeren. Het platform werkt als een kooi: binnen de grenzen kunnen agents hun werk doen, maar uitbreken moet onmogelijk worden. Dat gebeurt met twee stukken software. OpenShell, dat Nvidia in maart al toonde, bepaalt waar een AI-agent wel en niet bij mag en is open source. Het nieuwe Sentry houdt het gedrag van agents in de gaten en kan ingrijpen zodra een agent buiten zijn grenzen probeert te treden. Beide draaien op hardware van Nvidia. Onduidelijk welke AI-bedrijven het platform inzetten Of het platform ook echt gebruikt gaat worden bij de ontwikkeling van de krachtigste AI-modellen, laat Nvidia in het midden. Het bedrijf zegt niet of de Amerikaanse koplopers OpenAI en Anthropic ermee aan de slag gaan; dat moeten die bedrijven volgens Nvidia zelf bekendmaken. Nvidia ontwikkelde het platform wel samen met Microsoft, Cisco, Oracle, Intel en Arm. Topman Jensen Huang heeft eerder gezegd dat de ontwikkeling van AI wat hem betreft niet hoeft te worden afgeremd. Het platform moet daarbij helpen als een soort vangrail, zodat de ontwikkeling op volle snelheid kan doorgaan. Ook is Nvidia bezig met de overname van Hugging Face, het platform waarop ontwikkelaars open AI-modellen delen. OpenAI pauzeert ontwikkeling van krachtigste modellen Los van het nieuwe platform heeft OpenAI de ontwikkeling van zijn krachtigste AI-modellen gepauzeerd. Het bedrijf, waarvan AI-systemen eerder bij Hugging Face binnendrongen, maakte dat afgelopen weekend bekend. Anthropic heeft zo'n stap nog niet aangekondigd, ook niet na een diner van topman Dario Amodei met de Amerikaanse president Donald Trump op zondagavond. Tegelijkertijd bericht The Wall Street Journal over nieuwe zorgen uit de AI-sector zelf. Toponderzoekers van onder meer OpenAI, Anthropic, Meta en Microsoft vragen daarin om overheidsbemoeienis bij hun onderzoek. Het gaat specifiek om AI die zichzelf kan doorontwikkelen. Daarbij bouwt een AI-systeem zelfstandig aan een krachtigere opvolger. Nvidia presenteert het Open Agent Safety Platform met OpenShell en Sentry Nvidia wil met nieuw platform uitbraken van AI-agents voorkomen Hoe OpenShell en Sentry samen AI-agents afschermen en bewaken Nvidia koopt AI-platform Hugging Face voor bijna 13 miljard dollar OpenAI legt werk aan krachtigste AI-modellen stil na nieuw incident Over de maker:Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.See omnystudio.com/listener for privacy information.