Decisiones Humanas vs. Algoritmos: El Llamado del Papa Francisco al G7
En la reciente cumbre del G7 en Italia, el Papa Francisco subrayó la importancia de mantener las decisiones humanas en un mundo cada vez más influenciado por la inteligencia artificial (IA). Destacó que, aunque las máquinas pueden hacer elecciones basadas en algoritmos, las decisiones sobre nuestras vidas deben permanecer en manos humanas. Independientemente de las creencias religiosas, las reflexiones del Papa Francisco sobre la ética en la IA ofrecen una perspectiva valiosa que merece ser considerada.
«Condenaremos la humanidad a un futuro sin esperanza si sustraemos de las personas la capacidad de decidir sobre sí mismas y sus vidas, condenándolas a depender de las decisiones de máquinas» (Papa Francisco, Cumbre G7, junio 2024).
El llamado del Papa al G7 resuena con las preocupaciones planteadas por la investigadora de Microsoft Research, Kate Crawford, en su libro Atlas of AI, donde argumenta que la IA refleja las estructuras de poder y prejuicios de quienes la desarrollan, es decir, detrás de las máquinas hay humanos y debemos mantener un control crítico y ético principalmente sobre estos. Crawford subraya la importancia de ser conscientes de los sesgos en los modelos actuales, ya que estos pueden perpetuar y amplificar desigualdades existentes.
El psicólogo evolutivo de Harvard Steven Pinker sugiere que la mente humana al estar compuesta de múltiples módulos especializados que interactúan, creados por la fuerza acumulativa de la selección natural, proporciona una gran medida de autonomía, ya que no solo uno lleva la batuta. Inspirándome en esta teoría de autonomía del cerebro de Pinker, propongo una analogía para el uso de la IA: al igual que nuestro cerebro utiliza diferentes módulos para diversas funciones, deberíamos utilizar múltiples sistemas de IA con diferentes enfoques creados por diversas firmas. Esta perspectiva evitaría que una sola entidad tenga el control total, permitiendo así una mayor autonomía y reduciendo el sesgo en la toma de decisiones asistida por IA.
La intervención del Papa en el G7 fue un llamado oportuno para reflexionar sobre la ética en la era de la IA y la importancia de preservar nuestra autonomía y responsabilidad ética. Además, es esencial escuchar las opiniones de otros líderes y expertos en el campo de la ética de la IA, para obtener una visión más completa y diversa sobre cómo enfrentar los desafíos que presenta esta tecnología en rápido desarrollo.