{"id":15017,"date":"2024-03-21T08:32:56","date_gmt":"2024-03-21T08:32:56","guid":{"rendered":"https:\/\/www.techopedia.com\/es\/?p=15017"},"modified":"2024-03-21T08:32:56","modified_gmt":"2024-03-21T08:32:56","slug":"ia-reconocimiento-facial","status":"publish","type":"post","link":"https:\/\/www.techopedia.com\/es\/ia-reconocimiento-facial","title":{"rendered":"\u00bfLa IA detiene a los verdaderos culpables o inocentes?"},"content":{"rendered":"
Siguen apareciendo en Estados Unidos demandas contra polic\u00edas que utilizan el reconocimiento facial para detener a personas. La \u00faltima, presentada en Detroit en agosto de 2023, es el sexto caso en los \u00faltimos tres a\u00f1os.<\/p>\n
Ni que decir tiene que sufrir la indignidad de ser detenido injustamente porque la inteligencia artificial (IA)<\/a> ha cometido un error es un suceso aterrador que puede tener consecuencias devastadoras para una persona.<\/p>\n M\u00e1s a\u00fan cuando los cargos err\u00f3neos no se descubren a tiempo y la v\u00edctima se enfrenta a la c\u00e1rcel.<\/p>\n Por otro lado, los partidarios de esta tecnolog\u00eda afirman que ha ayudado a las fuerzas del orden a ser mucho m\u00e1s eficientes.<\/p>\n Estos percances pueden solucionarse superando algunos fallos inherentes al software o garantizando un uso m\u00e1s regular de im\u00e1genes de alta resoluci\u00f3n.<\/p>\n Sin embargo, \u00bfhasta qu\u00e9 punto es \u00e9tico seguir “probando” la tecnolog\u00eda de reconocimiento facial por IA para detener mientras tanto a personas que pueden ser inocentes?<\/p>\n \u00bfHasta qu\u00e9 punto es \u00e9tico utilizar el reconocimiento facial por IA en general, sabiendo hasta qu\u00e9 punto puede representar una violaci\u00f3n constante de nuestra privacidad, al poder identificar siempre a las personas sin su consentimiento?<\/p>\n Empecemos por analizar los da\u00f1os que ha causado hasta ahora.<\/p>\n El \u00faltimo caso en el que el FRT identific\u00f3 err\u00f3neamente a una persona ocurri\u00f3 en Detroit<\/a> a principios de este a\u00f1o. Para colmo de males, la v\u00edctima, Porsha Woodruff, de 32 a\u00f1os, estaba embarazada de ocho meses.<\/p>\n Woodruff fue detenida delante de sus dos hijas, de 6 y 12 a\u00f1os, y tuvo que pasar un d\u00eda en la comisar\u00eda. Despu\u00e9s, estresada y con malestar, se dirigi\u00f3 a un centro m\u00e9dico donde empez\u00f3 a experimentar contracciones precoces.<\/p>\n Los m\u00e9dicos la encontraron deshidratada y le diagnosticaron una baja frecuencia card\u00edaca. No es la mejor manera de pasar unos de los d\u00edas m\u00e1s delicados del embarazo.<\/p>\n Woodruff no fue la \u00fanica v\u00edctima de los errores del FRT.<\/p>\n En enero de 2020, Robert Williams fue acusado de robar en una tienda cinco relojes por valor de 3.800 d\u00f3lares.<\/p>\n Unas pocas im\u00e1genes granuladas de las grabaciones de vigilancia fueron todo lo que la polic\u00eda de Detroit necesit\u00f3 para detener al hombre, que fue esposado en su jard\u00edn delantero delante de todos sus vecinos<\/a> mientras su mujer y sus dos hijas peque\u00f1as no pod\u00edan hacer otra cosa que mirar angustiadas.<\/p>\n En teor\u00eda, las coincidencias de reconocimiento facial deb\u00edan utilizarse s\u00f3lo como una pista de investigaci\u00f3n<\/strong>, no como la \u00fanica prueba necesaria para acusar a Williams de un delito.<\/p>\n Sin embargo, fue suficiente para la polic\u00eda, que lo detuvo sin pruebas que lo corroboraran<\/strong>, aunque al final se descubriera que Williams volv\u00eda en coche del trabajo a casa en el momento del robo.<\/p>\n Si seguimos indagando, descubriremos c\u00f3mo no se trata de accidentes aislados: hay un reguero de asuntos similares que abarca a\u00f1os.<\/p>\n En 2019, un ladr\u00f3n dej\u00f3 una licencia de conducir falsa de Tennessee en la escena del crimen en Woodbridge, Nueva Jersey, despu\u00e9s de robar dulces. Cuando la identificaci\u00f3n falsa fue escaneada por la tecnolog\u00eda de reconocimiento facial<\/strong>, Nijeer Parks fue identificado como una coincidencia de “alto perfil”.<\/p>\n Fue detenido, y como ya hab\u00eda sido condenado por cargos relacionados con drogas y se arriesgaba a cumplir el doble de condena, empez\u00f3 a valorar si aceptar una declaraci\u00f3n de culpabilidad ser\u00eda la mejor soluci\u00f3n.<\/p>\n Por suerte para \u00e9l, acab\u00f3 demostrando su inocencia<\/strong> cuando se encontr\u00f3 un recibo de una transferencia de dinero de Western Union realizada a la misma hora que el hurto, en un lugar que estaba a 50 kil\u00f3metros de la tienda de regalos.<\/p>\n Seg\u00fan los abogados defensores, no es tan infrecuente que las personas acusadas err\u00f3neamente por reconocimiento facial acepten acuerdos con la fiscal\u00eda<\/strong>, incluso cuando son inocentes.<\/p>\n Por ejemplo, en 2018, otro hombre fue acusado de robar un par de calcetines de una tienda T.J. Maxx en Nueva York. Todo el caso descansaba en una \u00fanica y granulada grabaci\u00f3n de seguridad que gener\u00f3 una “posible coincidencia” meses despu\u00e9s del suceso.<\/p>\n Cuando un testigo confirm\u00f3 que “era \u00e9l”<\/a>, el acusado pas\u00f3 seis meses en la c\u00e1rcel antes de declararse culpable, aunque sigue manteniendo su inocencia.<\/p>\n \u00bfEl argumento de la defensa? El hombre estaba, de hecho, fichado en un hospital para el nacimiento de su hijo en el momento en que se produjo el crimen.<\/p>\n En algunos de los casos anteriores, una contraprueba ha demostrado -con \u00e9xito en dos casos, sin \u00e9xito en otro- que el acusado estaba lejos del lugar del crimen.<\/p>\n Pero no todos tendr\u00e1n tanta suerte.<\/p>\n En otras palabras, los casos que conocemos pueden ser s\u00f3lo una peque\u00f1a parte del n\u00famero de personas inocentes que actualmente est\u00e1n en la c\u00e1rcel o se enfrentan a penas de prisi\u00f3n debido a un reconocimiento err\u00f3neo<\/strong> del FRT.<\/p>\n Como muchas cosas en la vida, los ejemplos anteriores ponen m\u00e1s de relieve la forma en que las personas utilizan las herramientas que las herramientas en s\u00ed.<\/p>\n En muchos casos, las fuerzas del orden utilizan el FRT como \u00fanica prueba necesaria para encarcelar a las personas, en lugar de utilizar el posible reconocimiento como una simple pista en un proceso de investigaci\u00f3n m\u00e1s amplio.<\/p>\n Puede que Sherlock Holmes hubiera acogido con satisfacci\u00f3n la tecnolog\u00eda, pero habr\u00eda dedicado su tiempo a intentar desmontar las pruebas en lugar de tratarlas como un hecho.<\/p>\n Hay un problema subyacente mucho m\u00e1s grave que hace que esta tecnolog\u00eda sea altamente sesgada y su uso, en el mejor de los casos, pol\u00e9mico.<\/p>\n Ya en 2019, una investigaci\u00f3n del Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda (NIST, por sus siglas en ingl\u00e9s) encontr\u00f3 un creciente cuerpo de evidencia que se\u00f1ala que la FRT est\u00e1 empa\u00f1ada por un sesgo racial significativo<\/a>.<\/p>\n La IA a menudo, si no regularmente, identifica err\u00f3neamente a personas con tonos de piel m\u00e1s oscuros, personas m\u00e1s j\u00f3venes y mujeres. El riesgo de identificaci\u00f3n err\u00f3nea es 100 veces mayor en asi\u00e1ticos y afroamericanos<\/strong>, e incluso mayor en nativos americanos.<\/p>\n Las diferencias demogr\u00e1ficas, como la edad y el sexo, tambi\u00e9n contribuyen, y esta desproporci\u00f3n puede acentuarse con algunos sistemas menos precisos.<\/p>\n Adem\u00e1s de la enorme preocupaci\u00f3n que suscita el hecho de que la FRT se dirija de forma desproporcionada a personas de determinadas etnias, el propio uso de esta tecnolog\u00eda podr\u00eda vulnerar la intimidad y las libertades civiles.<\/p>\n La vigilancia p\u00fablica en tiempo real identifica a las personas sin su consentimiento, y las bases de datos agregadas se construyen a menudo sin ninguna regulaci\u00f3n que defina su legalidad.<\/p>\n Los datos biom\u00e9tricos pueden captarse con demasiada facilidad y en secreto y utilizarse para todo tipo de fines, incluido un control general de nuestra vida privada que probablemente muchos de nosotros consideremos inaceptable.<\/p>\n Las vulnerabilidades t\u00e9cnicas permiten que las im\u00e1genes capturadas se utilicen para todo tipo de actividades maliciosas<\/a>, desde el robo de identidades, deepfakes, suplantaciones f\u00edsicas o digitales<\/a>, e incluso acoso.<\/p>\nUn historial de errores de reconocimiento facial<\/span><\/h2>\n
Una embarazada v\u00edctima de un error del FRT, 2023<\/span><\/h3>\n
Un caso de acusaci\u00f3n falsa basada en una grabaci\u00f3n de vigilancia granulada, 2020<\/span><\/h3>\n
C\u00f3mo un DNI falso condujo a una detenci\u00f3n injusta, 2019<\/span><\/h3>\n
El caso de los calcetines de NY: seis meses de c\u00e1rcel por una posible coincidencia<\/span><\/h3>\n
“Deber\u00eda regularse” frente a “deber\u00eda prohibirse”<\/span><\/h2>\n