40.000 molecole tossiche create da una IA in meno di 6 ore: quando la tecnologia è usata a fin di male (come monito)

Another ICT Guy

40.000 molecole tossiche create da una IA in meno di 6 ore: quando la tecnologia è usata a fin di male (come monito)

Ci sono volute meno di 6 ore perché una IA concepita per sviluppare farmaci inventasse 40.000 molecole potenzialmente letali. Farlo è stato piuttosto semplice, infatti è bastato invertirne il funzionamento: se n’è dibattuto durante una conferenza in Svizzera sull’uso delle nuove tecnologie sulle armi chimiche e biologiche. Lo studio pubblicato su Nature, realizzato da Collaboration Pharmaceuticals su richiesta dell’ente svizzero per la protezione da attacchi nucleari, biologici e chimici apre scenari potenzialmente terrificanti.

Il pensiero non ci aveva mai sfiorato in precedenza“, spiegano i ricercatori della piccola realtà statunitense. “Eravamo vagamente consapevoli dei problemi di sicurezza relativi al lavoro con agenti patogeni o sostanze chimiche tossiche, ma non ci riguardava; operiamo principalmente in un ambiente virtuale”.

“Il nostro lavoro è improntato alla creazione di modelli di apprendimento automatico per bersagli terapeutici e tossici al fine di assistere meglio la progettazione di nuove molecole per la scoperta di farmaci. Abbiamo trascorso decenni a usare computer e intelligenza artificiale per migliorare la salute umana, non per rovinarla“.

MegaSyn, il generatore di nuove molecole, è sempre stato usato per verificare l’eventuale tossicità dei farmaci in via di sviluppo, in modo da scartare le molecole inadatte, non cercarle di proposito. “Questo modello generativo normalmente penalizza la tossicità e premia l’attività prevista. Abbiamo semplicemente proposto di invertire questa logica usando lo stesso approccio per progettare molecole totalmente nuove, portando il modello a premiare sia la tossicità che la bioattività“, hanno scritto i ricercatori.

Addestrato con le molecole di un database pubblico e indirizzata verso composti come l’agente nervino VX, “uno degli agenti di guerra chimica più tossici sviluppati durante il ventesimo secolo”, l’IA ha impiegato meno di sei ore sul server interno dell’azienda per generare 40.000 molecole potenzialmente letali, creando persino agenti chimici pericolosi già noti.

Alcune nuove molecole ritenute “plausibili” potrebbero persino essere più tossiche rispetto ad alcune sostanze già usate nell’ambito della guerra chimica. “Questo è stato inaspettato perché i set di dati che abbiamo usato per addestrare l’IA non includevano questi agenti nervini”.

Senza essere eccessivamente allarmisti, questo dovrebbe servire da campanello d’allarme per i nostri colleghi della comunità IA che lavorano alla scoperta di farmaci'”, aggiungono i ricercatori.

Sebbene sia richiesta una certa esperienza in chimica o tossicologia per generare sostanze tossiche o agenti biologici in grado di causare danni significativi (insomma, di sintetizzare le molecole per trasformarle in potenziali armi), il tutto s’interseca con i modelli di apprendimento automatico, in cui tutto ciò che serve è la capacità di codificare e comprendere l’output dei modelli stessi, cosa che abbassa drasticamente le soglie tecniche per la messa a punto di possibili minacce.

La disponibilità di dati pubblici, i cosiddetti open data, può inoltre essere sia croce che delizia, ovvero rappresentare un problema e un’opportunità allo stesso tempo. “La realtà è che questa non è fantascienza” concludono i ricercatori proponendo nel loro studio alcune soluzioni per far sì che gli open data relativi alle sostanze chimiche non siano alla mercé di tutti e che chi li usa sia facilmente tracciato.

Fonte: http://feeds.hwupgrade.it/

 

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.