Per ingannare l'intelligenza artificiale nel riconoscimento degli oggetti, sono sufficienti i vecchi strumenti carta e penna. Secondo un esperimento descritto dalla compagnia OpenAI sul proprio blog, infatti, se un oggetto ha attaccato un post-it che rimanda al nome di una cosa diversa è sufficiente a far sbagliare l'algoritmo.
L'esperimento mostra come ad esempio una sega elettrica venga correttamente riconosciuta come tale da sola, ma se vi si disegna sopra un simbolo del dollaro per l'algoritmo diventa un salvadanaio. "Chiamiamo questo tipo di attacchi 'attacchi tipografici' - spiegano gli esperti nel blog della compagnia - Abbiamo visto che si può sfruttare la capacità del sistema di leggere molto bene i testi, al punto che basta una fotografia di una frase scritta a mano per ingannarlo".
Questo tipo di attacchi è molto simile a quelli che usano le cosiddette 'adversarial images', in cui ad esempio è possibile 'ingannare' il sistema di guida senza pilota di un'auto facendogli cambiare corsia semplicemente mettendo alcuni stickers particolari sulla strada. In questo caso però non c'è nulla di cui preoccuparsi, spiega Open AI, perchè il sistema testato, chiamato Clip, è ancora in fase sperimentale e non ha applicazioni commerciali.
