{"id":25566,"date":"2024-02-20T00:00:00","date_gmt":"2024-09-13T08:49:07","guid":{"rendered":"https:\/\/wordpress-583806-4798031.cloudwaysapps.com\/ai-sakerhet-vad-kan-ga-fel\/"},"modified":"2024-11-15T16:20:56","modified_gmt":"2024-11-15T15:20:56","slug":"ai-sakerhet-vad-kan-ga-fel","status":"publish","type":"post","link":"https:\/\/informator.se\/en\/ai-sakerhet-vad-kan-ga-fel\/","title":{"rendered":"AI-s\u00e4kerhet \u2013 vad kan g\u00e5 fel?"},"content":{"rendered":"
\n

Kan AI hackas? Klart det kan! AI-s\u00e4kerhet \u00e4r h\u00e4r och vi m\u00e5ste g\u00f6ra n\u00e5got \u00e5t det.<\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

AI \u00e4r \u00f6verallt i nyheterna nuf\u00f6rtiden och r\u00e4ddar och d\u00f6mer v\u00e4rlden i lika stor utstr\u00e4ckning. Men hur \u00e4r det med AI-s\u00e4kerhet?
Det finns en hel del diskurs kring potentialen hos LLM (Large Language Model) som ChatGPT i synnerhet, medan AI redan har lyckats sl\u00e5 m\u00e4nniskor i videospel, bilk\u00f6rning, vetenskaplig bildanalys och kanske till och med kodning. Men \u2013 som med all snabbr\u00f6rlig teknik med mycket pengar involverade \u2013 kommer hackarna alltid att st\u00e4lla en fr\u00e5ga \u00e4ven om vi inte g\u00f6r det: “vad kan eventuellt g\u00e5 fel?”<\/p>\n\n\n\n

En absolut kritisk del av dessa moderna AI-system \u00e4r maskininl\u00e4rning: tr\u00e4na modeller p\u00e5 verklig data s\u00e5 att de kan generalisera fr\u00e5n den datan och fatta r\u00e4tt beslut \u00e4ven om de presenteras med tidigare osynliga data. Och i dessa system tenderar tr\u00e4ningsdata att b\u00f6rja med “vad vi \u00e4n hittar p\u00e5 Internet”. S\u00e5, h\u00e5ller s\u00e4kerheten f\u00f6r maskininl\u00e4rning med den rasande takten f\u00f6r AI-utveckling som helhet? Tyv\u00e4rr \u00e4r svaret “inte riktigt”. Med r\u00e4tt verktyg och kunskap kan en angripare utnyttja skillnaderna mellan AI och m\u00e4nsklig perception och f\u00f6rst\u00e5else f\u00f6r att lura AI att uppfatta en 3D-printad sk\u00f6ldpaddleksak som ett gev\u00e4r, korrumpera en AI-modell f\u00f6r att ordinera d\u00f6dliga blodf\u00f6rtunnare doser till patienter och d\u00f6lja oh\u00f6rbart kommandon i ljud f\u00f6r att trigga bakd\u00f6rrar i taligenk\u00e4nningssystem, och det \u00e4r bara toppen av isberget. Dessa attacker (‘undandragande’ och ‘f\u00f6rgiftning’) har utforskats s\u00e5 tidigt som i mitten av 2000-talet och har demonstrerats mot moderna AI-system i \u00f6ver 10 \u00e5r nu. Begr\u00e4nsningar finns, men de \u00e4r inte tillr\u00e4ckligt kraftfulla mot motiverade angripare \u2013 och de f\u00f6r n\u00e4rvarande hajpade LLM:erna \u00e4r \u00e4nnu mer s\u00e5rbara f\u00f6r vissa av dessa attacker. P\u00e5 liknande s\u00e4tt finns det attacker som g\u00f6r att en angripare kan stj\u00e4la en (v\u00e4rdefull) maskininl\u00e4rningsmodell fr\u00e5n ett system, extrahera data fr\u00e5n tr\u00e4ningsupps\u00e4ttningen (f\u00f6rhoppningsvis inkluderade tr\u00e4ningsdatan inte n\u00e5gra personliga uppgifter eller kreditkortsnummer!), eller till och med rekonstruera bilder eller text som anv\u00e4nds f\u00f6r att tr\u00e4na modellen i f\u00f6rsta hand.<\/p>\n\n\n\n

Men det finns mer med AI-s\u00e4kerhet \u00e4n dessa sofistikerade attacker. I slut\u00e4ndan \u00e4r en AI bara ett program, och dess kod kan ha buggar och s\u00e4kerhetsbrister precis som allt annat, och det finns m\u00e5nga nya hot (som snabb hackning) som kan bryta AI-s\u00e4kerhets\u00e5tg\u00e4rder som en utvecklare har inf\u00f6rt. Och det finns en hel del tredjepartskod inblandad \u2013 alla slags AI-system anv\u00e4nder sig av tusentals beroenden och hundratusentals rader kod \u2013 alla potentiellt fyllda med vanliga “tr\u00e5kiga” s\u00e5rbarheter som heltal och buffertspill (se bara p\u00e5 tresiffrigt antal s\u00e5rbarheter som uppt\u00e4cks i TensorFlow varje \u00e5r). \u00c4nnu viktigare \u00e4r att f\u00f6rs\u00f6rjningskedjan som anv\u00e4nds av dessa system ocks\u00e5 \u00e4r \u00f6ppen f\u00f6r attacker \u2013 och \u00e4r f\u00f6rv\u00e5nansv\u00e4rt l\u00e4tt att infektera med bakd\u00f6rrar som kommer att g\u00f6ra angriparens bud. Hur mycket litar du p\u00e5 den tredjepartsmodellen eller modellen zoo? Slutligen m\u00e5ste vi prata om s\u00e4kerheten f\u00f6r kod skriven av AI \u2013 som kan manipuleras och korrumperas precis som alla andra applikationer. Till exempel kan en angripare utnyttja “pakethallucination”: observera vilken typ av paketnamn som skapas av ChatGPT n\u00e4r den skriver kod, och ladda upp ett skadligt paket med det namnet till ett offentligt paketf\u00f6rr\u00e5d som en sorts typosquatting och beroendef\u00f6rvirringshybrid ge sig p\u00e5. Och naturligtvis bygger kod skriven av dessa system p\u00e5 existerande (vanligtvis \u00f6ppen k\u00e4llkod) kod skriven av m\u00e4nniskor, vilket kan vara mycket ben\u00e4get f\u00f6r s\u00e5rbarheter \u2013 vilket inneb\u00e4r att den genererade koden kommer att inneh\u00e5lla samma s\u00e5rbarheter \u2013 eller \u00e4nnu v\u00e4rre, bakd\u00f6rrar! Skr\u00e4p in skr\u00e4p ut.<\/p>\n\n\n\n

Jag har ocks\u00e5 pratat om detta \u00e4mne redan 2020 \u2013 saker och ting har f\u00f6r\u00e4ndrats ganska mycket sedan dess, ibland till det b\u00e4ttre och ibland till det s\u00e4mre. L\u00e5t oss se hur m\u00e5nga s\u00e4tt n\u00e5gon kan \u00f6verlista din favorit-AI p\u00e5 WeAreDevelopers World Congress 2023!<\/p>\n\n\n\n

Kurstips: <\/strong><\/p>\n\n\n\n


Secure Coding in C and C++ Online<\/strong><\/a> <\/strong><\/p>\n\n\n\n

\u200bSecure Coding in C and C++ <\/strong><\/a><\/p>\n<\/span><\/span>\r\n

\u00a0<\/span><\/span><\/h4>\r\n\"\"<\/span><\/span><\/div><\/div>","protected":false},"excerpt":{"rendered":"

Kan AI hackas? Klart det kan! AI-s\u00e4kerhet \u00e4r h\u00e4r och vi m\u00e5ste g\u00f6ra n\u00e5got \u00e5t det. AI \u00e4r \u00f6verallt i nyheterna nuf\u00f6rtiden och r\u00e4ddar och d\u00f6mer v\u00e4rlden i lika stor utstr\u00e4ckning. Men hur \u00e4r det med AI-s\u00e4kerhet? Det finns en hel del diskurs kring potentialen hos LLM (Large Language Model) som ChatGPT i synnerhet, medan […]<\/p>\n","protected":false},"author":6,"featured_media":26963,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[570],"tags":[],"class_list":["post-25566","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blogg"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t