La inteligencia artificial impulsa chatbots para potencializar caracteristicas tecnológicas. Sin embargo, expertos sostienen este tipo de software son susceptibles y manipulables, por lo cual es necesario corregirlos.
De acuerdo con los reportes de la agencia internacional de noticias AP, más de 3,500 participantes han empleado laptops en un esfuerzo por identificar fallas en ocho modelos líderes de lenguaje a gran escala.
Además, investigaciones académicas y corporativas revelan que los actuales modelos de inteligencia artificial son altamente complejos de gestionar, frágiles y susceptibles a manipulación.
«Es tentador creer que podemos agregar una capa de seguridad a estos sistemas después de su construcción. Hay que parcharlos para que sean más resistentes o incorporar dispositivos de seguridad adicionales, pero la realidad es más compleja»; advirtió Gary McGraw, un veterano en ciberseguridad y co-fundador del Berryville Institute of Machine Learning.
A su vez, el informe final de la Comisión de Seguridad Nacional de Inteligencia Artificial de Estados Unidos en 2021, alertaba sobre ataques a sistemas de inteligencia artificial comerciales.
Cabe destacar, que en estas investigaciones se señalaban la insuficiente inversión en investigación y desarrollo en términos de seguridad.
Manipulación y falta de privacidad con los chatbots
A medida que las amenazas evolucionan y se multiplican, los expertos advierten que la falta de regulación podría permitir que los problemas de seguridad pasen desapercibidos.
La privacidad también está en riesgo, ya que los chatbots podrían ser utilizados para interactuar con sectores sensibles como la salud, las finanzas y el empleo; lo que podría exponer datos personales a ataques.
Los modelos de lenguaje de inteligencia artificial también pueden contaminarse por datos basura durante el proceso de reentrenamiento, lo que aumenta la preocupación sobre la confiabilidad de los resultados.
Aunque los principales actores de la industria han manifestado su compromiso con la seguridad y la transparencia. Por lo cual, existen dudas sobre si estas medidas serán suficientes para prevenir futuros incidentes de seguridad y manipulación de los sistemas de IA.
