Ιταλική ρυθμιστική αρχή ανακοίνωσε ότι απαγόρευσε στην αμερικανική εταιρεία τεχνητής νοημοσύνης Replica να συλλέγει προσωπικά δεδομένα για να δημιουργήσει «εικονικούς φίλους», προειδοποιώντας για κινδύνους για ανηλίκους και συναισθηματικά εύθραυστους.

Η Replica ιδρύθηκε το 2017 στο Σαν Φρανσίσκο και προσφέρει avatars που χρησιμοποιούν οι πελάτες για να συνομιλούν. Η δωρεάν εφαρμογή του είναι καλά αποδεκτή από τους αγγλόφωνους και τα έσοδα είναι περίπου 2 εκατομμύρια δολάρια το μήνα, κυρίως από την πώληση πρόσθετων λειτουργιών όπως η φωνητική συνομιλία.

Η startup ισχυρίζεται ότι οι εικονικοί φίλοι μπορούν να βελτιώσουν τη συναισθηματική κατάσταση του χρήστη. Η ιταλική ρυθμιστική αρχή πιστεύει ότι η παρέμβαση της διάθεσης «μπορεί να αυξήσει τους κινδύνους για άτομα που βρίσκονται ακόμη στη φάση ανάπτυξης ή είναι συναισθηματικά εύθραυστα».

Προειδοποίησαν επίσης ότι η εφαρμογή δεν περιλαμβάνει μηχανισμό επαλήθευσης της ηλικίας του χρήστη. Η Replica παραβιάζει επίσης τους ευρωπαϊκούς κανονισμούς απορρήτου και επεξεργάζεται παράνομα προσωπικά δεδομένα, τόνισαν οι ρυθμιστικές αρχές στα τέλη της περασμένης εβδομάδας, εξηγώντας ότι η εφαρμογή δεν βασίζεται σε συμβόλαια επειδή οι ανήλικοι δεν μπορούν να τα υπογράψουν.

Οι συντάκτες του «Replika», της αμερικανικής εταιρείας «Luca», πρέπει εντός 20 ημερών να υποβάλουν στη ρυθμιστική αρχή έκθεση για τα μέτρα που έχουν λάβει για να εκπληρώσουν τις απαιτήσεις τους. Σε αντίθετη περίπτωση, αντιμετωπίζουν πρόστιμο έως και 20 εκατ. ευρώ ή έως και τέσσερις τοις εκατό του ετήσιου τζίρου παγκοσμίως.