Declaración de Toronto - Toronto Declaration
La Declaración de Toronto: Protección de los derechos a la igualdad y la no discriminación en los sistemas de aprendizaje automático es una declaración que aboga por prácticas responsables para los profesionales del aprendizaje automático y los órganos rectores. Es una declaración conjunta emitida por grupos como Amnistía Internacional y Access Now , con otros signatarios notables como Human Rights Watch y la Fundación Wikimedia . Fue publicado en RightsCon el 16 de mayo de 2018.
La Declaración se centra en las preocupaciones sobre el sesgo algorítmico y el potencial de discriminación que surge del uso del aprendizaje automático y la inteligencia artificial en aplicaciones que pueden afectar la vida de las personas, "desde la vigilancia policial hasta los sistemas de bienestar, la prestación de servicios de salud y las plataformas para el discurso en línea. " Una preocupación secundaria del documento es la posibilidad de violaciones de la privacidad de la información .
El objetivo de la Declaración es esbozar "estándares tangibles y viables para los estados y el sector privado". La Declaración pide soluciones tangibles, como reparaciones para las víctimas de discriminación algorítmica.
Contenido
La Declaración de Toronto consta de 59 artículos, divididos en seis secciones, sobre el derecho internacional de los derechos humanos , los deberes de los estados , las responsabilidades de los actores del sector privado y el derecho a un recurso efectivo.
Preámbulo
El documento comienza con la pregunta: "En un mundo de sistemas de aprendizaje automático, ¿quién será responsable de dañar los derechos humanos ?" Argumenta que todos los profesionales, ya sea en el sector público o privado, deben ser conscientes de los riesgos para los derechos humanos y enfocar su trabajo teniendo en cuenta los derechos humanos, conscientes de las leyes, estándares y principios internacionales existentes. El documento define los derechos humanos para incluir "el derecho a la privacidad y la protección de datos, el derecho a la libertad de expresión y asociación, a la participación en la vida cultural, la igualdad ante la ley y el acceso a un recurso efectivo"; pero afirma que la Declaración se preocupa más por la igualdad y la no discriminación.
Utilizando el marco del derecho internacional de los derechos humanos
El marco del derecho internacional de los derechos humanos enumera varios derechos, proporciona mecanismos para exigir responsabilidades a los infractores y garantiza la reparación de los violados. El documento cita la definición de discriminación del Comité de Derechos Humanos de las Naciones Unidas como "cualquier distinción, exclusión, restricción o preferencia basada en cualquier motivo [incluidos, entre otros,] raza, color, sexo, idioma, religión, política u otro opinión, origen nacional o social, propiedad, nacimiento u otra condición, y que tenga por objeto o efecto anular o menoscabar el reconocimiento, goce o ejercicio por todas las personas, en pie de igualdad, de todos los derechos y libertades ".
Los gobiernos deben crear de manera proactiva medidas vinculantes, y las entidades privadas deben crear políticas internas para proteger contra la discriminación. Las medidas pueden incluir protecciones para datos sensibles, especialmente para poblaciones vulnerables. Los sistemas deben diseñarse en colaboración con una comunidad diversa para evitar la discriminación en el diseño.
Deberes de los estados: obligaciones de derechos humanos
Los gobiernos de hoy están implementando sistemas de aprendizaje automático, a menudo en colaboración con entidades privadas. Incluso cuando el desarrollo se contrata a terceros, los gobiernos mantienen su obligación de proteger los derechos humanos. Antes de la implementación, y de manera continua a partir de entonces, deben identificar los riesgos y realizar auditorías periódicas, luego tomar todas las medidas necesarias para mitigar estos riesgos. Deben ser transparentes sobre cómo se implementa y utiliza el aprendizaje automático, evitando los sistemas de caja negra cuya lógica no se puede explicar fácilmente. Los sistemas deben estar sujetos a una estricta supervisión de diversos comités internos y autoridades judiciales independientes.
Los gobiernos también deben proteger a los ciudadanos de la discriminación por parte de entidades privadas. Además de la supervisión, deben aprobar leyes vinculantes contra la discriminación, así como para la protección de datos y la privacidad, y deben proporcionar medios efectivos de reparación para las personas afectadas. Es importante que los gobiernos nacionales y regionales amplíen y contextualicen el derecho internacional.
Responsabilidades de los actores del sector privado: debida diligencia en derechos humanos
Las entidades privadas son responsables de realizar la "diligencia debida en materia de derechos humanos". Al igual que los gobiernos, las entidades privadas deben identificar los riesgos antes del desarrollo considerando los riesgos comunes y consultando a las partes interesadas, "incluidos los grupos afectados, las organizaciones que trabajan en derechos humanos, la igualdad y la discriminación, así como expertos independientes en derechos humanos y aprendizaje automático". Deben diseñar sistemas que mitiguen los riesgos, someter los sistemas a auditorías periódicas y renunciar a los proyectos que conllevan riesgos demasiado elevados. Deben ser transparentes sobre los riesgos asumidos, incluidos los detalles de la implementación técnica cuando sea necesario, y deben proporcionar un mecanismo para que las personas afectadas impugnen cualquier decisión que les afecte.
El derecho a un recurso efectivo
"El derecho a la justicia es un elemento vital del derecho internacional de los derechos humanos". Las entidades privadas deben crear procesos para que las personas afectadas busquen reparación, y deben designar roles para quién supervisará estos procesos. Los gobiernos deben ser especialmente cautelosos al implementar sistemas de aprendizaje automático en el sector judicial. La transparencia, la responsabilidad y la reparación pueden ayudar.