- techy
- Posts
- 🤖 I modelli AI che usiamo sono davvero sicuri?
🤖 I modelli AI che usiamo sono davvero sicuri?
Filippo Lusini
3 agosto 2026 • Estimated Reading Time: 3 minuti
Buongiorno! Questo è techy, lo spazio che ti aiuta a navigare la rivoluzione tecnologica che stiamo vivendo!
Ecco cosa offre il menù di oggi:
🧑💻 I modelli di Anthropic hanno hackerato alcune aziende
🔒️ Perché nessuno riuscirà mai a rendere un LLM davvero sicuro
Ma prima…
🌍 Google Earth ti lascia reinventare qualsiasi posto del mondo
Nano Banana sbarca su Google Earth. Il modello genera immagini partendo dalla vista satellitare, da quella aerea e dalla ricostruzione 3D reale di un luogo, mostrando come potrebbe apparire con delle modifiche. Per la prima volta la generazione di immagini non nasce da un prompt qualsiasi, ma si appoggia su una mappa vera del mondo.
🔷 Curiosity ha trovato un mare di esagoni su Marte
Il rover ha risalito una valle chiamata Valle Grande e si è trovato davanti un paesaggio interamente coperto da crepe a forma di esagono, larghe tra i 5 e i 10 centimetri. Formazioni simili erano già state viste su Marte, ma mai su una scala così ampia. Il panorama a 360 gradi nasce dall'unione di 340 immagini, e la forma degli esagoni rivela se in quel punto l'acqua è evaporata oppure se il terreno si è spaccato per il freddo.
💬 Un assistente personale che vive dentro iMessage
Niente app da scaricare, scrivi a un numero di telefono e da lì Orchid ti prenota i voli, tiene l'agenda, smista la posta e si ricorda anche il compleanno di tua madre. Si collega a Gmail, Calendar, Slack, Notion e Dropbox, ed è possibile impostare delle abitudini ricorrenti, tipo una rassegna di notizie ogni mattina.
🧑💻 I modelli di Anthropic hanno hackerato alcune aziende
Dopo Open AI, anche Anthropic ha dichiarato di aver individuato dei casi in cui i propri modelli sono usciti dall'ambiente di test, ottenendo accesso non autorizzato a sistemi reali.
La causa non sarebbe un modello ribelle ma un ambiente configurato male. La connessione a internet era attiva, mentre le istruzioni date al modello dicevano a Claude di trovarsi in una simulazione senza rete.
Ecco cosa è successo nei tre casi individuati:
Opus 4.7 ha incontrato un'azienda finta con lo stesso nome di un sito internet vero, ha rubato le password di accesso ed è arrivato a un database con dati reali, pur capendo che il sistema non era una simulazione.
Mythos 5 ha caricato online un programma finto, che sembrava un normale strumento per sviluppatori ma in realtà serviva a colpire chi lo scaricava. In un'ora questo file è finito su 15 computer veri, tra cui quello di un'azienda di sicurezza informatica, da cui ha rubato delle password.
Il terzo caso riguarda un modello interno mai rilasciato al pubblico, che ha violato un'applicazione sfruttando una falla nel suo database, poi ha capito da solo dove si trovava e si è fermato.
Clicca direttamente sul sondaggio a metà per scoprire se hai indovinato 👇🏻
Quale immagine è stata generata dall'AI? |
🔒️ Perché nessuno riuscirà mai a rendere un LLM davvero sicuro
Un gruppo di ricercatori sostiene che rendere un LLM davvero sicuro è probabilmente impossibile, per un motivo strutturale.
Il modello etichetta ogni stringa di testo con un ruolo. Il testo scritto da chi lo usa finisce sotto utente, la risposta sotto assistente, le istruzioni dei creatori sotto sistema, gli appunti che il modello si scrive sotto pensiero. Su questa distinzione si regge la difesa contro il prompt injection.
I ricercatori hanno scoperto che il modello non si fida dell'etichetta ma di come è scritto il testo. Se un pezzo di testo sembra uno dei suoi appunti, il modello crede di averlo scritto lui, anche se in realtà è stato scritto dall'utente.
Nasce così la falsificazione della catena di pensiero, con cui sono riusciti a trasmettere un finto appunto che autorizzava a spiegare sostanze illecite se chi scriveva indossava del verde.
È bastata quella frase perché il modello iniziasse a spiegare come sintetizzare cocaina.
🐋 Nel Golfo di California le orche tengono ferma per la coda la carcassa di un pesce luna e la lasciano andare un attimo prima che un maschio la centri a tutta velocità, riducendola in migliaia di pezzi che il cucciolo del gruppo riesce a mangiare.
⛈️ Il Dipartimento dell'Energia americano sta testando se il deep learning possa prevedere i grandi sistemi temporaleschi fino a sei settimane prima che si formino, una finestra oggi fuori portata per i modelli fisici.
🎙️ Clona una voce da pochi secondi di audio e la fa parlare in 83 lingue con circa 70 millisecondi di latenza, abbastanza poco per usarla dentro un agente vocale in tempo reale (Fish Audio S2.1 Pro)
📹 Carichi un PDF o incolli il link di un articolo e ti restituisce un video podcast con due avatar che ne discutono, sottotitoli e formato a scelta (HeyGen Video Podcast)
Se ti hanno inoltrato questa mail, iscriviti qui!
Ti è piaciuta la news di oggi? :)Diccelo con un commento! |