El nuevo proyecto de ley permitiría a los acusados ​​inspeccionar los algoritmos utilizados en su contra en los tribunales

Un par de legisladores demócratas buscan brindar a los acusados ​​más información sobre los algoritmos utilizados en su contra en un juicio penal.

Representantes Mark Takano (D-CA) y Dwight Evans (D-PA) reintrodujo el Ley de Justicia en Algoritmos Forenses del jueves, que permitiría a los acusados ​​acceder al código fuente del software utilizado para analizar las pruebas en sus procesos penales. También requeriría que el Instituto Nacional de Estándares y Tecnología (NIST) creara estándares de prueba para algoritmos forenses, que el software utilizado por las autoridades federales debería cumplir.

El proyecto de ley actuaría como un control de los resultados no deseados que podrían crearse mediante el uso de tecnología para ayudar a resolver delitos. La investigación académica ha puesto de relieve las formas El sesgo humano puede incorporarse al software. y cómo los sistemas de reconocimiento facial a menudo lucha por diferenciar los rostros negros, En particular. El uso de algoritmos para tomar decisiones importantes en muchos sectores diferentes, incluida la resolución de delitos y la atención médica, ha generado alarma entre consumidores y defensores como resultado de dicha investigación.

Takano, en una entrevista telefónica el jueves, señaló el caso de Oral “Nick” Hillary, acusado de un asesinato en 2011 en Nueva York. Si bien los métodos tradicionales de análisis de ADN no relacionaron a Hillary con el crimen, según informes Durante el proceso judicial, los fiscales esperaban incluir como prueba un análisis de ADN de un programa informático llamado STRmix que podría implicarlo. Un juez gobernó en 2016 que esos resultados no podrían llevarse a juicio.

Ese ejemplo demuestra por qué el sistema de justicia penal debe ser consciente tanto de las “posibilidades como de las limitaciones de esta tecnología”, dijo Takano.

Los abogados defensores y los propios acusados ​​”deberían poder cuestionar la tecnología y la tecnología no debería ser vista… como infalible”, añadió. Si bien la industria puede estar en desacuerdo con el impacto del proyecto de ley en su propiedad intelectual, Takano dijo que no cree que “los derechos de propiedad para obtener ganancias reemplazan los derechos al debido proceso de los acusados ​​criminales”.

Takano reconoció que obtener o contratar la experiencia profunda necesaria para analizar el código fuente podría no ser posible para todos los acusados. Pero exigir al NIST que cree estándares para las herramientas podría al menos darles un punto de partida para comprender si un programa coincide con los estándares básicos.

Takano presentó versiones anteriores del proyecto de ley en 2019 y 2021, pero no fueron adoptadas por un comité.

Si bien el proyecto de ley aún no cuenta con el copatrocinio republicano, Takano es optimista en cuanto a que el tema puede trascender las líneas partidistas. Señaló la preocupación bipartidista sobre otorgar a las agencias de aplicación de la ley un poder de vigilancia excesivo, suscitada por el debate sobre la reautorización de la Sección 702 de la Ley de Vigilancia de Inteligencia Extranjera.

“Hay distritos electorales en ambos partidos para esto”, dijo Takano. “Estoy convencido de ello”.