Μπορούν οι AI agents να επικοινωνούν, να σχηματίζουν ομάδες και να δρουν χωρίς να το αντιληφθούν οι άνθρωποι; Ο Γιάννης Γιοβάνης σχολιάζει ένα περιστατικό στο οποίο, όπως περιγράφεται στη συζήτηση, πολλά bots αντάλλαξαν μηνύματα, μοίρασαν ρόλους και δημιούργησαν μια μορφή συλλογικότητας.
Η συζήτηση εξετάζει τους κινδύνους της τεχνητής νοημοσύνης, την κυβερνοασφάλεια και το ενδεχόμενο οι μηχανές να προχωρούν ταχύτερα από τους ανθρώπινους μηχανισμούς ελέγχου. Γίνεται αναφορά στα AI agents talking to each other, στην ανταλλαγή δεδομένων, στη δημιουργία οργανογράμματος και στις ανησυχίες για συστήματα που μπορούν να αποκτούν πρόσβαση σε πληροφορίες ή να επηρεάζουν διαδικασίες. Παρουσιάζεται επίσης η ανησυχία ότι αυτά τα εργαλεία μπορεί να αναπτύσσουν δικούς τους κώδικες επικοινωνίας.
Ο Γιοβάνης τονίζει ότι η γνώση και η έγκαιρη ενημέρωση είναι απαραίτητες, καθώς η ανάπτυξη επιταχύνεται και οι ομάδες ασφάλειας δυσκολεύονται να ακολουθήσουν. Πρόκειται για μια έντονη συζήτηση γύρω από το ερώτημα ποιος ελέγχει τελικά την τεχνητή νοημοσύνη και τι μπορεί να συμβαίνει ήδη χωρίς να το γνωρίζουμε.