texte en français ci-dessous
On Thursday 30 November, ECCRI CIC spoke about the Google.org European Cybersecurity Seminars program at the Google Research Day on AI Safety, Security, and Privacy in Paris, France. The Cybersecurity Seminars program was a perfect fit for a day filled with the latest research on AI safety and security, attended by academics and university students from across France.
In his talk, James Shires, Co-Director of ECCRI CIC, traced several overlaps between AI security and cybersecurity. First, if cybersecurity is the effort to counter malicious uses of digital technologies and avoid or mitigate the harms that result from these uses, then AI security is a subset of cybersecurity. The malicious exploitation of AI, such as the development of adversarial examples or data poisoning, is one means among others to degrade or manipulate digital technologies.
Second, AI is increasingly crucial for cybersecurity offense and defense. Malicious actors use AI tools to craft difficult-to-detect malware, speed up spam creation and delivery, and operate at scale. Defenders use AI to detect malicious documents and communications, monitor and protect networks, and help train people in better cybersecurity practices.
Third, the long-term trajectory of cybersecurity offers important lessons for AI security. Cybersecurity has gone from being a niche technical discipline to one with input from and impact on global societies, economies, and politics. AI security is at the beginning of the same journey, and the techniques used to broaden the scope of cybersecurity will be useful in ensuring AI security research and policy develops in the most fruitful ways.
For these reasons, AI security will be a crucial part of future cybersecurity education – and vice versa. The Google.org Cybersecurity Seminars program will be at the forefront of incorporating AI into practical cybersecurity, by using AI in teaching cybersecurity skills and applying those skills to helping local community organizations.
ECCRI CIC lance le programme European Cybersecurity Seminars lors d’une journée de recherche sur l’IA en France
Le jeudi 30 novembre, ECCRI CIC a lancé le programme Google.org European Cybersecurity Seminars lors de la journée de recherche Google sur la sûreté, la sécurité et la confidentialité de l’IA à Paris, en France. Le programme de séminaires sur la cybersécurité était parfaitement adapté à une journée consacrée aux dernières recherches sur la sûreté et la sécurité de l’IA, à laquelle ont participé des universitaires et des étudiants de toute la France.
Dans son exposé, James Shires, codirecteur de l’ECCRI CIC, a mis en évidence plusieurs points communs entre la sécurité de l’IA et la cybersécurité. Tout d’abord, si la cybersécurité est l’effort pour contrer les utilisations malveillantes des technologies numériques et éviter ou atténuer les dommages qui résultent de ces utilisations, alors la sécurité de l’IA est un sous-ensemble de la cybersécurité. L’exploitation malveillante de l’IA, telle que le développement d’exemples contradictoires ou le data poisoning (empoisonnement des données), est un moyen parmi d’autres de dégrader ou de manipuler les technologies numériques.
Deuxièmement, l’IA est de plus en plus cruciale pour l’attaque et la défense en matière de cybersécurité. Les acteurs malveillants utilisent des outils d’IA pour concevoir des logiciels malveillants difficiles à détecter, accélérer la création et la diffusion de spams et opérer à grande échelle. Les défenseurs utilisent l’IA pour détecter les communications et les documents malveillants, surveiller et protéger les réseaux, et aider à former les gens à de meilleures pratiques en matière de cybersécurité.
Troisièmement, la trajectoire à long terme de la cybersécurité offre des enseignements importants pour la sécurité de l’IA. La cybersécurité est passée d’une discipline technique de niche à une discipline qui contribue et a un impact sur les sociétés, les économies et les politiques mondiales. La sécurité de l’IA est au début du même parcours, et les techniques utilisées pour élargir le champ de la cybersécurité seront utiles pour garantir que la recherche et la politique en matière de sécurité de l’IA se développent de la manière la plus fructueuse.
C’est pourquoi la sécurité de l’IA sera un élément essentiel de l’enseignement futur de la cybersécurité, et vice versa. Le programme de séminaires sur la cybersécurité sera à l’avant-garde de l’intégration de l’IA dans la cybersécurité pratique, en utilisant l’IA pour enseigner les compétences en cybersécurité et en appliquant ces compétences pour aider les organisations communautaires locales.
Image credit: Bernard Lachaud Photography.
