Το TikTok θα είναι η πρώτη εφαρμογή που θα «σταμπάρει» αυτόματα περιεχόμενο ΑΙ και deepfakes

Το TikTok θα γίνει η πρώτη πλατφόρμα κοινωνικής δικτύωσης που θα επισημαίνει αυτόματα περιεχόμενο τεχνητής νοημοσύνης (ΑΙ) και deepfakes. 

Οι μεγάλοι όμιλοι του διαδικτύου, όπως η Meta, μητρική του Facebook, και το TikTok, απαιτούν ήδη από τους χρήστες να αποκαλύπτουν εάν εικόνες, ήχος ή βίντεο δημιουργούνται μέσω λογισμικού τεχνητής νοημοσύνης.

Η κινεζική εφαρμογή, που ανήκει στην ByteDance, προχώρησε ένα βήμα παραπέρα ανακοινώνοντας ότι εισάγει δυνατότητες διασφάλισης ότι θα επισημαίνονται τα βίντεο που μπορούν να αναγνωριστούν ως προϊόν AI. Αυτό αφορά περιεχόμενο που δημιουργείται με τη χρήση του εργαλείου Firefly της Adobe, των γεννητριών εικόνων τεχνητής νοημοσύνης του ίδιου του TikTok και του Dall-E της OpenAI, γράφουν οι Financial Times.

«Γνωρίζουμε ότι υπάρχει άνοδος σε επιβλαβές περιεχόμενο που δημιουργείται από AI», δήλωσε ο Adam Presser, επικεφαλής λειτουργικής ασφάλειας του TikTok. «Η αυθεντικότητα είναι ένα από τα στοιχεία που έχουν κάνει το TikTok μια τόσο ζωντανή και χαρούμενη κοινότητα… που θέλει να είναι σε θέση να κατανοεί τι έχει φτιαχτεί από άνθρωπο και τι έχει βελτιωθεί ή δημιουργηθεί με τεχνητή νοημοσύνη».

Οι πλατφόρμες κοινωνικής δικτύωσης, όπως το TikTok, η Meta, το X και το YouTube, έχουν εξερευνήσει τρόπους για ενσωμάτωση της γενετικής τεχνητής νοημοσύνης μέσω chatbots και νέων εργαλείων που βοηθούν τους influencers και τους διαφημιστές να δημιουργούν περιεχόμενο. Ωστόσο, έχουν δεχθεί πυρά επειδή οι χρήστες πλημμυρίζουν από ανεπιθύμητο περιεχόμενο χαμηλής ποιότητας που δημιουργείται από τεχνητή νοημοσύνη.

Σε μια χρονιά με εκλογές μείζονος σημασίας σε όλο τον κόσμο, αυτές οι εταιρείες αντιμετωπίζουν πίεση να εισαγάγουν πλέγμα προστασίας γύρω από παραπλανητικά deepfakes, να περιορίσουν τις μυστικές επιχειρήσεις επιρροής και να διασφαλίσουν ότι διαχειρίζονται σωστά το περιεχόμενο, παραμένοντας αμερόληπτες.

Προ ημερών, το TikTok και η μητρική ByteDance υπέβαλαν μήνυση κατά της κυβέρνησης των ΗΠΑ, αμφισβητώντας τον νόμο που θα απαγορεύσει την εφαρμογή, αν δεν την πουλήσει η κινεζική εταιρεία. Οι Αμερικανοί βουλευτές ανησυχούν ότι η πλατφόρμα θα μπορούσε να προωθήσει την παραπληροφόρηση και την προπαγάνδα.

Η TikTok δήλωσε σήμερα Πέμπτη ότι θα ενταχθεί σ’ έναν συνασπισμό ομίλων τεχνολογίας και media, με επικεφαλής την Adobe, που ενσωματώνουν διαπιστευτήρια περιεχομένου σε προϊόντα που δημιουργούνται από τεχνητή νοημοσύνη.

Η εν λόγω τεχνολογία ενσωματώνει ένα ψηφιακό αποτύπωμα σε περιεχόμενο πολυμέσων AI, μαζί με άλλες πληροφορίες αναγνώρισης, όπως το πότε, πού και από ποιον δημιουργήθηκε το υλικό. Το TikTok θα χρησιμοποιεί αυτούς τους δείκτες για να επισημαίνει αυτόματα περιεχόμενο που δημιουργείται με προϊόντα τεχνητής νοημοσύνης.

Η OpenAI ανακοίνωσε την Τρίτη ότι θα ενταχθεί στον συνασπισμό, γνωστό ως Content Authenticity Initiative, και θα ενσωματώσει την τεχνολογία αποτυπωμάτων σε όλες τις εικόνες που δημιουργούνται από το μοντέλο εικόνων Dall-E 3.

Μεγάλες εταιρείες τεχνολογίας, όπως η Google, η Microsoft και η Sony, διερευνούν την ενσωμάτωση της τεχνολογίας στα δικά τους εργαλεία τεχνητής νοημοσύνης.