Η Επικίνδυνη Τεχνολογία του Veo 3
Πρόσφατα είχα την ευκαιρία να δοκιμάσω το νέο μοντέλο δημιουργίας βίντεο της Google, το Veo 3. Αυτό το εργαλείο, που ανήκει στο ακριβό πακέτο AI Ultra της Gemini με κόστος $250, έχει τη δυνατότητα να αποτυπώνει μικρές λεπτομέρειες όπως ψιλοκομμένα κρεμμύδια σε κίνηση και να προσφέρει πειστικό ήχο. Αν και δεν είναι τέλειο, μπορεί να δημιουργήσει περιεχόμενο που μοιάζει σχεδόν πραγματικό με μια απλή ματιά. Είναι σίγουρα μια εντυπωσιακή τεχνολογία, αλλά ταυτόχρονα φέρνει σοβαρές ανησυχίες για την αλήθεια στο διαδίκτυο.
Το Veo 3 αποτελεί ήδη σημαντική απειλή στην τρέχουσα μορφή του, αλλά μια μικρή αναβάθμιση θα μπορούσε να επαναστατήσει τη δημιουργία deepfake και την παραπληροφόρηση online.
Μια Απουσία Σημαντικής Λειτουργίας
Αν και το Veo 3 διαθέτει πολλές βελτιώσεις σε σχέση με τον προκάτοχό του, το Veo 2, λείπει ένα κρίσιμο χαρακτηριστικό: η δυνατότητα παραγωγής βίντεο από εικόνες που ανεβάζετε. Με το προηγούμενο μοντέλο μπορούσα εύκολα να ανεβάσω μια φωτογραφία μου και αυτόματα να παραχθεί ένα βίντεο όπου φαίνομαι ότι εργάζομαι στον υπολογιστή μου. Δεδομένου ότι τόσο το Veo 2 όσο και η εφαρμογή AI animation της Google γνωστή ως Whisk υποστηρίζουν αυτή τη λειτουργία,είναι σχεδόν σίγουρο ότι θα προστεθεί στο μέλλον.
Οι Επιπτώσεις στην Κοινωνία μας
Οι συνέπειες αυτής της τεχνολογίας είναι σαφείς σε μία εποχή όπου τα αμφιλεγόμενα κλιπ εξαπλώνονται γρήγορα στα κοινωνικά δίκτυα. Μπορεί κάποιος εύκολα να στείλει ένα ψεύτικο βίντεο στον διευθυντή ανθρώπινων πόρων ή ακόμα και να διαδώσει ψευδείς ειδήσεις μέσω πλατφορμών όπως το Facebook.
Εάν η διαδικασία παραγωγής ενός βίντεο με ήχο από ένα πραγματικό πρόσωπο απαιτεί μόνο λίγα κλικ χωρίς κόστος (ή ελάχιστο), πόσοι άνθρωποι θα εκμεταλλευτούν αυτήν την ευκολία; Ακόμα κι αν πρόκειται για μειονότητα χρηστών, οι πιθανότητες κακής χρήσης αυξάνονται δραματικά.
Η Έλλειψη Αυστηρών Περιορισμών από την Google
The Google επιβάλει κάποιους περιορισμούς στη χρήση του Gemini αλλά δεν είναι αρκετά αυστηρή ώστε αυτά τα προβλήματα να αποτραπούν πλήρως. Όταν οι ήδη χαλαροί κανόνες συναντούν κοινότητες που επιδιώκουν τις παραβιάσεις τους όπως η ChatGPTJailbreak – που επικεντρώνεται στο «ξεκλείδωμα» των AI – τι μπορεί κανείς να περιμένει από τους χρήστες του Veo 3;
Aνησυχώ περισσότερο για τις συνέπειες των φωτορεαλιστικών βίντεο (με ήχο) στην παρενόχληση και τη διάδοση παραπληροφόρησης παρά για άλλες πιο «διασκεδαστικές» χρήσεις τους.
Πώς Να Αντιμετωπίσουμε Αυτήν τη Νέα Πραγματικότητα
Kάθε φορά που εισάγονται νέα συστήματα υδατογραφήματος περιεχομένου όπως ο SynthID AI από την Google εμφανίζονται επίσης ιστότοποι τρίτων που παρέχουν τρόπους αφαίρεσης υδατογραφήματος. Για κάθε chatbot με περιορισμούς υπάρχουν εναλλακτικές λύσεις χωρίς αυτούς.
Aκόμη κι αν η Google προσπαθήσει σθεναρά ώστε οι δυνατότητες αυτές να μην χρησιμοποιούνται καταστρεφικά μόλις γίνει mainstream η παραγωγή τύπου veo 3 , οι jailbreakers πάντα βρίσκουν τρόπους γύρω από αυτούς τους περιορισμούς.
Mέχρι σήμερα έχουμε δει πολλές εικόνες επεξεργασμένες μέσω Photoshop όπου άτομα φαίνεται πως κάνουν πράγματα που ποτέ δεν έκαναν – αυτό έχει γίνει μέρος της ψηφιακής μας ζωής εδώ και χρόνια. Ωστόσο πρέπει πάντα ν’ ελέγχουμε τις πληροφορίες πριν πιστέψουμε οτιδήποτε βλέπουμε online καθώς αυτή είναι πλέον η νέα κανονικότητα: κανένα video clip δεν μπορεί ν’ αντιμετωπιστεί ως αξιόπιστο εκτός αν προέρχεται από έναν αξιόπιστο ειδησεογραφικό οργανισμό ή κάποιο άλλο αξιόπιστο τρίτο μέρος.
Tα εργαλεία παραγωγής video τύπου Veo 3 αποτελούν μόνο την αρχή μιας νέας εποχής στην οποία τα μοντέλα AI θα γίνουν ολοένα πιο πειστικά ενώ παράλληλα θα πολλαπλασιάζονται στις επιλογές τους . Η ανάγκη για προσεκτική επαλήθευση γίνεται όλο και πιο επιτακτική καθώς κινδυνεύουμε όλοι μας όταν μπερδεύεται η πραγματικότητα με τη φαντασία .
