La inteligencia artificial (IA) es la creación de sistemas capaces de realizar tareas que normalmente requieren inteligencia humana. Para lograr esto, las máquinas con sistemas informáticos se entrenan a partir de datos para cumplir con actividades específicas, de diversas complejidades. De esta forma, sus usos pueden ser responder una simple pregunta, hacer itinerarios de viajes, asistentes virtuales como Alexa o Siri, analizar datos financieros, redactar, automatizar procesos, explicar, crear, y muchas posibilidades más.
La IA puede aportar a la humanidad así como también la puede perjudicar. Por ejemplo, puede ayudar a hacer procesos más eficientes y aportar a industrias como la medicina, sin embargo, el uso humano y cómo se direcciona esta tecnología es lo que lo hace peligroso.
En cuanto a sus riesgos se ha visto sus efectos en materia de educación, ya que los estudiantes no aprenden o practican habilidades de redacción o pensamiento crítico porque pueden realizar sus tareas con una simple pregunta a una inteligencia artificial como Chat GPT, lo que puede provocar el desarrollo de una dependencia tecnológica aún mayor.
Otro de los efectos corresponde a los sesgos que pueden tener los algoritmos, puesto que al ser entrenados con datos humanos, muchos presentan discriminación, y se ha observado que se refleja en las respuestas que dan.
También se encuentra el fenómeno deep fake (un acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo), una técnica que se utiliza para crear “noticias” o contenido que parece real pero que se genera con con imágenes o videos falsos hechos por computadoras a partir del rostro o la voz de una persona. Este contenido ha tenido diversos usos tanto para contenido de entretenimiento en las distintas redes sociales como para crear desinformación o aumentar la violencia sexual.
Este último se utiliza de manera constante, además ha tenido un fuerte auge, y su uso más frecuente ha sido tomar una foto de cualquier persona y utilizarla en un video o imagen con contenido pornográfico. De lo anterior, se han dado casos hacia menores de edad o actrices mujeres a quienes además se les expone y vulnerabiliza.
Por lo anterior, y para contrarrestar los avances mencionados (y los no mencionados), el ejercicio del derecho y de lo legislativo debe tomar un papel activo.
El dr. José Hernán Muriel Ciceri, jurista colombiano y profesor universitario en México, abordó estas preocupaciones y propone un concepto de Industria 6.0 en el que haya una Inteligencia artificial cooperativa con una protección de la dignidad humana.
Además, indicó que se pueden mencionar las decisiones recientes tomadas dentro del Parlamento de la Unión Europea, para legislar la inteligencia artificial, estableciendo prohibiciones para usos calificados.
Hernán Muriel abordó este nuevo reglamento en materia de IA el cual se construye a través de sistemas de riesgo calificados como riesgo mínimo, medio, alto, hasta un riesgo inaceptable. Dentro de este riesgo inaceptable, se encuentra por ejemplo, la grabación a través de cámaras de vigilancia para bases de datos de reconocimiento facial, o el reconocimiento de emociones en las escuelas o en el lugar de trabajo.
Incluso abordó el tema de la actualización policial predictiva, que puede causar manipulación respecto al comportamiento de las personas o la explotación de las vulnerabilidades. También hay excepciones frente a materias de seguridad en prevención de un atentado terrorista o situaciones similares.
Existen unas obligaciones para esos sistemas de alto riesgo en transparencia y protección efectiva de derechos de control por parte del ser humano, de las decisiones automatizadas de la máquina, y también medidas de apoyo a la innovación y a las Pymes.
De esta forma se comprende un compromiso por parte del Parlamento Europeo con esta tecnología que conforme más se entrene, más se elabore, más avanzado se hace. Hernán Muriel mencionó que dentro del ámbito latinoamericano aún es necesario dar un paso más allá y hacer un llamado a un consenso como región donde se pueda establecer una ley o modelo a través de la Organización de los Estados Americanos, OEA..
Para el jurista, el avance que se dió a nivel europeo puede servir como caja de herramientas para los legisladores latinoamericanos en virtud de ese principio de protección a la dignidad humana. Se reconoce también que países como Perú, Chile, Brasil y Costa Rica que ya han tomado iniciativa para legislar esta materia.
Sin embargo, es fundamental que este esfuerzo por legislar y poner al ser humano en el centro de la conversación nunca pierda intensidad, puesto que la IA continuará avanzando en el mundo moderno.
Para ver un análisis sobre el tema, visite el programa de Desayunos de Radio Universidad:
