Traducido de Humansarefree.com por TierraPura.org
Mientras que en Occidente la mayor parte de la expresión y los movimientos de las personas se vigilan mediante sistemas automatizados de censura y vigilancia por “IA”, en China parece que se está trabajando en la creación de una máquina que actuaría como un fiscal impulsado por la IA.
El producto, que ya ha sido probado por la ajetreada fiscalía de Shanghai Pudong, es capaz de alcanzar un 97% de precisión en la acusación de personas sospechosas de ocho actos delictivos, según han afirmado los investigadores que lo han desarrollado.
Según el South China Morning Post, los casos que el “fiscal de la IA” es supuestamente muy competente en manejar implican delitos como el fraude con tarjetas de crédito, la conducción peligrosa, el juego, las lesiones intencionadas, la obstrucción a los funcionarios, el robo, pero también algo llamado “buscar peleas y provocar problemas”.
Este último se considera especialmente “problemático”, ya que su definición, o la falta de ella, puede abarcar distintas formas de disidencia política.
Y ahora el plan es introducir una máquina a la que se le daría poder de decisión, como la de presentar cargos, y qué sentencia pedir en cada caso.
Esto, según el profesor Shi Yong, que dirige el laboratorio de big data y gestión del conocimiento de la Academia China de Ciencias que está detrás del proyecto, es una marcada diferencia entre ésta y otras herramientas de “IA” que ya se utilizan en China desde hace años.
Una de ellas es el Sistema 206, cuyas tareas se limitan a evaluar las pruebas, el peligro que supone un sospechoso para el público y las condiciones en que puede ser detenido.
Pero la tecnología que hay detrás del nuevo fiscal artificial parece ser al mismo tiempo mucho más ambiciosa y avanzada. Lo que se ha desvelado es que puede funcionar en un ordenador de sobremesa, procesando 1.000 rasgos extraídos de la descripción de un caso presentada por humanos, y basándose en ello formular una acusación.
No está claro si la base de datos de 17.000 casos a lo largo de cinco años utilizada para entrenar los algoritmos es suficiente para considerar el proyecto como verdadera IA, y si se puede conseguir el mismo resultado con algoritmos basados en reglas.
En cualquier caso, no todos los fiscales humanos están encantados de que se sustituya parte de su carga de trabajo de esta manera, aunque precisamente este ha sido el motivo para desarrollar la tecnología.
“La precisión del 97% puede ser alta desde el punto de vista tecnológico, pero siempre habrá una posibilidad de error. ¿Quién asumirá la responsabilidad cuando ocurra? ¿El fiscal, la máquina o el diseñador del algoritmo?”, señaló un fiscal de Guangzhou, que habló bajo condición de anonimato.
Envía tu comentario
Últimas
