{"id":23300,"date":"2024-02-29T13:22:22","date_gmt":"2024-02-29T12:22:22","guid":{"rendered":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/"},"modified":"2024-02-29T13:22:22","modified_gmt":"2024-02-29T12:22:22","slug":"hugging-face-trovati-piu-di-100-modelli-ai-dannosi","status":"publish","type":"post","link":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/","title":{"rendered":"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Sulla piattaforma <strong>Hugging Face<\/strong> sono stati trovati almeno <strong>100 casi<\/strong> di <strong>modelli AI ML dannosi<\/strong>. Alcuni di essi possono <strong>eseguire codice<\/strong> sul computer della vittima, fornendo agli aggressori una backdoor persistente. Hugging Face \u00e8 un&#8217;azienda tecnologica che si occupa di intelligenza artificiale (AI), <strong>elaborazione del linguaggio naturale<\/strong> (NLP) e <strong>apprendimento automatico<\/strong> (ML). Inoltre, fornisce una piattaforma in cui le community possono <strong>collaborare<\/strong>, <strong>condividere modelli<\/strong>, set di dati e applicazioni complete. Il team di sicurezza di <a href=\"https:\/\/jfrog.com\/blog\/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor\/\" target=\"_blank\" rel=\"nofollow noopener\">JFrog<\/a> ha scoperto che circa un <strong>centinaio di modelli<\/strong> ospitati sulla piattaforma presentano <strong>funzionalit\u00e0 dannose<\/strong>, che comportano un rischio significativo di violazione dei dati e attacchi di spionaggio. Ci\u00f2 accade nonostante le misure di sicurezza di Hugging Face, tra cui la scansione di malware e l&#8217;esame accurato della funzionalit\u00e0 dei modelli per scoprire comportamenti come la <strong>deserializzazione non sicura<\/strong>.<\/p>\n<h2 id=\"hugging-face-payload-dannosi-creati-da-specialisti-ai-per-ricerche-sulla-sicurezza\">Hugging Face: payload dannosi creati da specialisti AI per ricerche sulla sicurezza<\/h2>\n<p>JFrog ha sviluppato e distribuito un sistema di scansione avanzato per esaminare i <strong>modelli PyTorch<\/strong> e <strong>Tensorflow Keras<\/strong> ospitati su Hugging Face. Gli analisti ne hanno trovato un centinaio con qualche forma di funzionalit\u00e0 dannosa. Come riportato dalla societ\u00e0 di sicurezza: \u201c<em>\u00c8 fondamentale sottolineare che, quando ci riferiamo a modelli dannosi, intendiamo specificamente quelli che ospitano payload utili reali e dannosi. Questo conteggio esclude i falsi positivi, garantendo una rappresentazione autentica della distribuzione degli sforzi volti alla produzione di modelli dannosi per PyTorch e Tensorflow su Hugging Face<\/em>\u201d. Un caso evidenziato di un modello PyTorch che \u00e8 stato caricato di recente da un utente chiamato \u201c<strong>baller423<\/strong>\u201d e che da allora \u00e8 stato rimosso da Hugging Face, conteneva ad esempio un payload che gli dava la capacit\u00e0 di stabilire una <strong>shell inversa<\/strong> su un host specificato (210.117.212.93).<\/p>\n<p>JFrog ha trovato lo stesso payload connesso ad altri indirizzi IP in istanze separate. Ci\u00f2 suggerisce la possibilit\u00e0 che i suoi operatori siano <strong>ricercatori di intelligenza artificiale<\/strong> piuttosto che hacker. Tuttavia, la loro sperimentazione \u00e8 ancora rischiosa e inappropriata. JFrog afferma che alcuni dei payload dannosi potrebbero far parte di una ricerca sulla sicurezza. Questa potrebbe essere volta ad <strong>aggirare le misure di sicurezza <\/strong>su Hugging Face e raccogliere bug bounties. Dal momento che i modelli pericolosi diventano pubblicamente disponibili, il rischio \u00e8 reale e non dovrebbe essere sottovalutato. I <a href=\"https:\/\/www.html.it\/magazine\/anthropic-i-modelli-ai-possono-essere-addestrati-a-ingannare\/\" target=\"_blank\" rel=\"nofollow noopener\">modelli AI ML<\/a> possono comportare <strong>rischi significativi per la sicurezza<\/strong> e questi non sono stati discussi con la dovuta diligenza dalle parti interessate. I risultati di JFrog evidenziano questo problema e richiedono un&#8217;<strong>elevata vigilanza <\/strong>e <strong>misure proattive<\/strong> per salvaguardare l&#8217;ecosistema da attori malintenzionati.<\/p>\n<p><span class=\"bm_post\" style=\"display:none\" data-domain=\"html.it\" data-author=\"Antonello Ciccarello\" data-alias=\"Antonello Ciccarello\" data-tipologia=\"edit\" data-custom=\"\" data-po=\"\" data-path=\"https:\/\/www.html.it\/magazine\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\" data-postid=\"494224\" data-programs=\"\" data-subjects=\"\" data-themes=\"\"\/>    <\/p>\n<div class=\"partial-newsletter\">\n<p>        <!-- newsletter first step --><\/p>\n<div id=\"newsletter_div\" class=\"bro--disabled newsletter__pass-a\">\n<p>Se vuoi aggiornamenti su su questo argomento  inserisci la tua email nel box qui sotto:<\/p>\n<p> <!-- <em>Hugging Face: trovati pi&ugrave; di 100 modelli AI dannosi<\/em> --><\/p>\n<div class=\"newsletter__disclaimer\">\n<p>Compilando il presente form acconsento a ricevere le informazioni<br \/>\n                    relative ai servizi di cui alla presente pagina ai sensi<br \/>\n                    dell&#8217;<a href=\"https:\/\/www.html.it\/privacy-policy\" target=\"_blank\" rel=\"noopener\">informativa sulla privacy<\/a>.<\/p>\n<\/div><\/div>\n<p>        <!-- newsletter second step --><\/p>\n<p>        <!-- newsletter loader --><\/p>\n<p>        <!-- newsletter notice --><\/p><\/div><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.html.it\/magazine\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\">Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Sulla piattaforma Hugging Face sono stati trovati almeno 100 casi di modelli AI ML dannosi. Alcuni di essi possono eseguire codice sul computer della vittima, fornendo agli aggressori una backdoor persistente. Hugging Face \u00e8 un&#8217;azienda tecnologica che si occupa di intelligenza artificiale (AI), elaborazione del linguaggio naturale (NLP) e apprendimento automatico (ML). Inoltre, fornisce una&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_s2mail":""},"categories":[37],"tags":[],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v19.13 - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi - AGENZIA WEB Italia<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\" \/>\n<meta property=\"og:locale\" content=\"it_IT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi - AGENZIA WEB Italia\" \/>\n<meta property=\"og:description\" content=\"Sulla piattaforma Hugging Face sono stati trovati almeno 100 casi di modelli AI ML dannosi. Alcuni di essi possono eseguire codice sul computer della vittima, fornendo agli aggressori una backdoor persistente. Hugging Face \u00e8 un&#8217;azienda tecnologica che si occupa di intelligenza artificiale (AI), elaborazione del linguaggio naturale (NLP) e apprendimento automatico (ML). Inoltre, fornisce una...\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\" \/>\n<meta property=\"og:site_name\" content=\"AGENZIA WEB Italia\" \/>\n<meta property=\"article:published_time\" content=\"2024-02-29T12:22:22+00:00\" \/>\n<meta name=\"author\" content=\"admin\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Scritto da\" \/>\n\t<meta name=\"twitter:data1\" content=\"admin\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo di lettura stimato\" \/>\n\t<meta name=\"twitter:data2\" content=\"2 minuti\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\"},\"author\":{\"name\":\"admin\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/person\/c0748e23499fac2fd73b79d1379fdf42\"},\"headline\":\"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi\",\"datePublished\":\"2024-02-29T12:22:22+00:00\",\"dateModified\":\"2024-02-29T12:22:22+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\"},\"wordCount\":456,\"publisher\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#organization\"},\"articleSection\":[\"News\"],\"inLanguage\":\"it-IT\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\",\"url\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\",\"name\":\"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi - AGENZIA WEB Italia\",\"isPartOf\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#website\"},\"datePublished\":\"2024-02-29T12:22:22+00:00\",\"dateModified\":\"2024-02-29T12:22:22+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/#breadcrumb\"},\"inLanguage\":\"it-IT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#website\",\"url\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/\",\"name\":\"AGENZIA WEB Italia\",\"description\":\"Web design Web agency Italia\",\"publisher\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"it-IT\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#organization\",\"name\":\"Multimedia Web\",\"url\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"it-IT\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-content\/uploads\/2016\/05\/multimediaweb1.png\",\"contentUrl\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-content\/uploads\/2016\/05\/multimediaweb1.png\",\"width\":200,\"height\":57,\"caption\":\"Multimedia Web\"},\"image\":{\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/logo\/image\/\"}},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/person\/c0748e23499fac2fd73b79d1379fdf42\",\"name\":\"admin\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"it-IT\",\"@id\":\"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/991cd68bbfd6f946517378a63fc3a1f7?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/991cd68bbfd6f946517378a63fc3a1f7?s=96&d=mm&r=g\",\"caption\":\"admin\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi - AGENZIA WEB Italia","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/","og_locale":"it_IT","og_type":"article","og_title":"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi - AGENZIA WEB Italia","og_description":"Sulla piattaforma Hugging Face sono stati trovati almeno 100 casi di modelli AI ML dannosi. Alcuni di essi possono eseguire codice sul computer della vittima, fornendo agli aggressori una backdoor persistente. Hugging Face \u00e8 un&#8217;azienda tecnologica che si occupa di intelligenza artificiale (AI), elaborazione del linguaggio naturale (NLP) e apprendimento automatico (ML). Inoltre, fornisce una...","og_url":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/","og_site_name":"AGENZIA WEB Italia","article_published_time":"2024-02-29T12:22:22+00:00","author":"admin","twitter_card":"summary_large_image","twitter_misc":{"Scritto da":"admin","Tempo di lettura stimato":"2 minuti"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/#article","isPartOf":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/"},"author":{"name":"admin","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/person\/c0748e23499fac2fd73b79d1379fdf42"},"headline":"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi","datePublished":"2024-02-29T12:22:22+00:00","dateModified":"2024-02-29T12:22:22+00:00","mainEntityOfPage":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/"},"wordCount":456,"publisher":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#organization"},"articleSection":["News"],"inLanguage":"it-IT"},{"@type":"WebPage","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/","url":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/","name":"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi - AGENZIA WEB Italia","isPartOf":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#website"},"datePublished":"2024-02-29T12:22:22+00:00","dateModified":"2024-02-29T12:22:22+00:00","breadcrumb":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/#breadcrumb"},"inLanguage":"it-IT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/hugging-face-trovati-piu-di-100-modelli-ai-dannosi\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.nycwebdesign.eu\/webdesign\/"},{"@type":"ListItem","position":2,"name":"Hugging Face: trovati pi\u00f9 di 100 modelli AI dannosi"}]},{"@type":"WebSite","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#website","url":"https:\/\/www.nycwebdesign.eu\/webdesign\/","name":"AGENZIA WEB Italia","description":"Web design Web agency Italia","publisher":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.nycwebdesign.eu\/webdesign\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"it-IT"},{"@type":"Organization","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#organization","name":"Multimedia Web","url":"https:\/\/www.nycwebdesign.eu\/webdesign\/","logo":{"@type":"ImageObject","inLanguage":"it-IT","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/logo\/image\/","url":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-content\/uploads\/2016\/05\/multimediaweb1.png","contentUrl":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-content\/uploads\/2016\/05\/multimediaweb1.png","width":200,"height":57,"caption":"Multimedia Web"},"image":{"@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/logo\/image\/"}},{"@type":"Person","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/person\/c0748e23499fac2fd73b79d1379fdf42","name":"admin","image":{"@type":"ImageObject","inLanguage":"it-IT","@id":"https:\/\/www.nycwebdesign.eu\/webdesign\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/991cd68bbfd6f946517378a63fc3a1f7?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/991cd68bbfd6f946517378a63fc3a1f7?s=96&d=mm&r=g","caption":"admin"}}]}},"_links":{"self":[{"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/posts\/23300"}],"collection":[{"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/comments?post=23300"}],"version-history":[{"count":0,"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/posts\/23300\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/media?parent=23300"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/categories?post=23300"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.nycwebdesign.eu\/webdesign\/wp-json\/wp\/v2\/tags?post=23300"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}