Microsoft rechazó algunas ventas de software de reconocimiento facial
VOA - INGLÉS
Microsoft rechazó recientemente la solicitud de una agencia de aplicación de la ley de California para instalar tecnología de reconocimiento facial en los autos y cámaras de los oficiales debido a preocupaciones de derechos humanos, dijo el martes el presidente de la compañía, Brad Smith.
Microsoft concluyó que llevaría a mujeres y minorías inocentes a ser retenidas de manera desproporcionada para ser interrogadas porque la inteligencia artificial ha sido entrenada en imágenes mayoritariamente blancas y masculinas.
La IA tiene más casos de identidad errónea con mujeres y minorías, según han encontrado múltiples proyectos de investigación.
"Cada vez que detuvieron a alguien, querían hacer un escaneo facial" contra una base de datos de sospechosos, dijo Smith sin nombrar a la agencia. Después de analizar el impacto desigual, "dijimos que esta tecnología no es su respuesta".
Contrato de prisión aceptado
Hablando en una conferencia de la Universidad de Stanford sobre "inteligencia artificial centrada en el hombre", Smith dijo que Microsoft también había rechazado un acuerdo para instalar el reconocimiento facial en las cámaras que cubrían la ciudad capital de un país sin nombre que la organización sin fines de lucro Freedom House no había considerado gratis. Smith dijo que habría suprimido la libertad de reunión allí.
Por otro lado, Microsoft acordó proporcionar la tecnología a una prisión estadounidense, después de que la compañía concluyera que el ambiente sería limitado y que mejoraría la seguridad dentro de la institución anónima.
Smith explicó las decisiones como parte de un compromiso con los derechos humanos que dijo que era cada vez más crítico, ya que los rápidos avances tecnológicos permiten a los gobiernos llevar a cabo una vigilancia general, desplegar armas autónomas y tomar otras medidas que podrían resultar imposibles de revertir.
'Competir hasta el final'
Microsoft dijo en diciembre que estaría abierto a las deficiencias en su reconocimiento facial y pidió a los clientes que sean transparentes sobre la forma en que pretendían usarlo, mientras que se abstuvieron de descartar las ventas a la policía.
Smith ha pedido una mayor regulación del reconocimiento facial y otros usos de la inteligencia artificial, y advirtió el martes que sin eso, las empresas que acumulen la mayor cantidad de datos podrían ganar la carrera para desarrollar la mejor IA en una "carrera hacia el fondo".
Compartió el escenario con la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, quien instó a las empresas de tecnología a abstenerse de construir nuevas herramientas sin considerar su impacto.
"Por favor, incorpore el enfoque de derechos humanos cuando esté desarrollando tecnología", dijo Bachelet, ex presidenta de Chile.
El portavoz de Microsoft, Frank Shaw, se negó a nombrar a los posibles clientes que la compañía rechazó.
Microsoft rechazó recientemente la solicitud de una agencia de aplicación de la ley de California para instalar tecnología de reconocimiento facial en los autos y cámaras de los oficiales debido a preocupaciones de derechos humanos, dijo el martes el presidente de la compañía, Brad Smith.
Microsoft concluyó que llevaría a mujeres y minorías inocentes a ser retenidas de manera desproporcionada para ser interrogadas porque la inteligencia artificial ha sido entrenada en imágenes mayoritariamente blancas y masculinas.
La IA tiene más casos de identidad errónea con mujeres y minorías, según han encontrado múltiples proyectos de investigación.
"Cada vez que detuvieron a alguien, querían hacer un escaneo facial" contra una base de datos de sospechosos, dijo Smith sin nombrar a la agencia. Después de analizar el impacto desigual, "dijimos que esta tecnología no es su respuesta".
Contrato de prisión aceptado
Hablando en una conferencia de la Universidad de Stanford sobre "inteligencia artificial centrada en el hombre", Smith dijo que Microsoft también había rechazado un acuerdo para instalar el reconocimiento facial en las cámaras que cubrían la ciudad capital de un país sin nombre que la organización sin fines de lucro Freedom House no había considerado gratis. Smith dijo que habría suprimido la libertad de reunión allí.
Por otro lado, Microsoft acordó proporcionar la tecnología a una prisión estadounidense, después de que la compañía concluyera que el ambiente sería limitado y que mejoraría la seguridad dentro de la institución anónima.
Smith explicó las decisiones como parte de un compromiso con los derechos humanos que dijo que era cada vez más crítico, ya que los rápidos avances tecnológicos permiten a los gobiernos llevar a cabo una vigilancia general, desplegar armas autónomas y tomar otras medidas que podrían resultar imposibles de revertir.
'Competir hasta el final'
Microsoft dijo en diciembre que estaría abierto a las deficiencias en su reconocimiento facial y pidió a los clientes que sean transparentes sobre la forma en que pretendían usarlo, mientras que se abstuvieron de descartar las ventas a la policía.
Smith ha pedido una mayor regulación del reconocimiento facial y otros usos de la inteligencia artificial, y advirtió el martes que sin eso, las empresas que acumulen la mayor cantidad de datos podrían ganar la carrera para desarrollar la mejor IA en una "carrera hacia el fondo".
Compartió el escenario con la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, quien instó a las empresas de tecnología a abstenerse de construir nuevas herramientas sin considerar su impacto.
"Por favor, incorpore el enfoque de derechos humanos cuando esté desarrollando tecnología", dijo Bachelet, ex presidenta de Chile.
El portavoz de Microsoft, Frank Shaw, se negó a nombrar a los posibles clientes que la compañía rechazó.
.jpg)
Entradas
Post a Comment