Viernes 4 de Octubre de 2024

Hoy es Viernes 4 de Octubre de 2024 y son las 12:38 -

25 de septiembre de 2024

La controversia detrás del uso de inteligencia artificial en informes policiales en Estados Unidos

La IA comenzó a automatizar procesos como la redacción de los reportes, documentos básicos en los procesos judiciales. Algunas jurisdicciones limitan el uso a incidentes menores, otras lo permiten en todo tipo de delitos. Los expertos advierten sobre el riesgo de errores y sesgos

>En algunos departamentos de Según Popular Science, hace poco tiempo, Axon, empresa conocida por sus tasers y cámaras corporales, lanzó Draft One, una innovadora herramienta de IA destinada a las fuerzas del orden. Desarrollada con la plataforma Azure OpenAI de Microsoft, Draft One utiliza tecnología similar a Según Axon, esta herramienta es capaz de reducir de manera drástica el tiempo necesario para la elaboración de informes, lo que permite a los oficiales concentrarse en tareas más importantes. Draft One también busca mejorar la precisión de los informes, minimizando la posibilidad de errores humanos o la omisión de detalles clave, lo cual es crucial en un contexto donde la exactitud puede tener consecuencias significativas.

Los departamentos de policía han sido tradicionalmente líderes en la adopción de nuevas tecnologías, incorporando drones, reconocimiento facial y A pesar del entusiasmo generado por Draft One, han surgido preocupaciones entre académicos, fiscales y activistas. La posibilidad de que la IA pueda cometer errores o incorporar sesgos en los informes ha sido uno de los principales puntos de debate. Estos informes son documentos fundamentales en el sistema de justicia penal, que influye en decisiones críticas sobre arrestos, procesamientos y condenas. La capacidad de la IA para manejar de manera fiable la complejidad y las implicaciones de la redacción de informes es vista con escepticismo por algunos expertos, quienes advierten sobre el riesgo de automatizar un proceso tan delicado.

A medida que el uso de Draft One y otras herramientas de IA se populariza en la policía, sería deseable un debate público sobre sus beneficios y riesgos. La posibilidad de que la IA cometa errores —conocidos como “alucinaciones”, donde se generan datos falsos pero plausibles— representa un peligro potencial para la precisión de los informes policiales, que son documentos de base en la larga cadena de los procesos judiciales.

Andrew Ferguson, profesor de derecho en la American University, ha expresado a AP su preocupación de que la facilidad y rapidez de la tecnología pueda llevar a los oficiales a ser menos cuidadosos en la redacción de informes, comprometiendo la justicia y la fiabilidad del sistema legal. Este tipo de preocupaciones subraya la importancia de establecer salvaguardias y regulaciones adecuadas.

COMPARTIR:

Comentarios

  • Desarrollado por
  • RadiosNet