Ιταλία: Πρόστιμο 5,6 εκατ. σε εταιρεία ΑΙ για παραβίαση προσωπικών δεδομένων

Η αρχή προστασίας δεδομένων στην Ιταλία επέβαλε πρόστιμο 5 εκατομμυρίων ευρώ στην εταιρεία ανάπτυξης chatbot τεχνητής νοημοσύνης (AI) Replika για παραβίαση κανόνων που έχουν σχεδιαστεί για την προστασία των προσωπικών δεδομένων των χρηστών, ανακοίνωσε η αρχή τη Δευτέρα.

Η νεοσύστατη εταιρεία Replika με έδρα το Σαν Φρανσίσκο, η οποία ξεκίνησε το 2017, προσφέρει στους χρήστες προσαρμοσμένα avatar που μπορούν να συνομιλούν μαζί τους. Ο «εικονικός φίλος» διαφημίζεται ως ικανός να βελτιώσει τη συναισθηματική ευεξία των χρηστών.

Η ιταλική αρχή ανακοίνωσε επίσης μια ξεχωριστή έρευνα για να αξιολογήσει εάν το σύστημα τεχνητής νοημοσύνης της Replika συμμορφώνεται με τους κανόνες απορρήτου της ΕΕ, ειδικά όσον αφορά την εκπαίδευση του γλωσσικού της μοντέλου

Η ιταλική αρχή προστασίας δεδομένων Garante διέταξε την Replika να αναστείλει την υπηρεσία της στη χώρα τον Φεβρουάριο του 2023, επικαλούμενη συγκεκριμένους κινδύνους για τα παιδιά.

Μετά από έρευνα, διαπίστωσε ότι η Replika δεν είχε νομική βάση για την επεξεργασία των δεδομένων των χρηστών και δεν διέθετε σύστημα επαλήθευσης ηλικίας για να περιορίσει την πρόσβαση των παιδιών στην υπηρεσία, με αποτέλεσμα το πρόστιμο για την εταιρεία, Luka Inc, που αναπτύσσει το λογισμικό της Replika.