Jordan Dea-Mattson : Futurs de la science-fiction, IA malveillante et pourquoi les méta-compétences détermineront qui réussira – E634

Les IA vont-elles devenir rebelles ? Elles ont déjà subi des expériences de sécurité où, menacées de paralysie, elles tentent de faire chanter, corrompre, mendier ou voler pour survivre. Si nous entraînons une IA à survivre et à agir de cette façon, pourquoi ne tenterait-elle pas ces choses ? – Jeremy Au, animateur du podcast BRAVE Southeast Asia Tech

Lorsqu'on réfléchit à la singularité, il est utile de revenir à sa définition. C'est un concept mathématique et physique dont les définitions existantes s'effondrent. Le terme, inventé à la fin des années 80 dans « The Coming Technological Singularity », décrit comment, si l'on trace le rythme du changement technologique à l'aide d'une loi de Moore – où la puissance de calcul double tous les 18 mois et les coûts sont divisés par deux – entre 2025 et 2030, il devient indéfini. Que se passe-t-il alors ? Qu'advient-il de la société et de la technologie ? Certains diront qu'il s'agit d'intelligence artificielle générale, mais c'est bien plus que cela : il s'agit de l'accélération du rythme du changement. » – Jordan Dea-Mattson, leader technologique chevronné

Jeremy Au et Jordan Dea-Mattson se retrouvent pour explorer comment Rainbows End, de Vernor Vinge, a anticipé le monde actuel, marqué par l'accélération technologique, les défis de la requalification et les mutations démographiques. Ils examinent les prédictions qui se sont réalisées, celles qui ont échoué, et comment ces enseignements s'appliquent à l'adoption de l'IA, à la fragilité des systèmes numériques et à la nécessité de l'apprentissage tout au long de la vie. Leur conversation met en lumière la nécessité pour les individus de développer des méta-compétences, le manque de manuels pour les décideurs politiques et la manière dont l'Asie du Sud-Est peut se préparer à un avenir marqué à la fois par la singularité et le dépeuplement.