Cuando un fondo de capital riesgo respaldado por la CIA se interesó por la tecnología de escaneo facial de Rana el Kaliouby para detectar emociones, el científico de la computación y sus colegas lo pensaron bien y luego rechazaron la oferta
"No nos interesan las aplicaciones en las que se está espiando a la gente", dijo el Kaliouby, CEO y cofundadora de la startup Affectiva, de Boston. La compañía ha entrenado sus sistemas de inteligencia artificial para reconocer si las personas están felices o tristes, cansadas o enojadas, usando un repositorio fotográfico de más de 6 millones de caras.
Los avances recientes en la visión artificial de la inteligencia artificial han acelerado la carrera de los autos sin conductor y han impulsado las funciones de etiquetado de fotos cada vez más sofisticadas que se encuentran en Facebook y Google.
Pero a medida que estos extraños "ojos" de inteligencia artificial encuentran nuevas aplicaciones en las líneas de cajas, cámaras corporales y zonas de guerra, las compañías tecnológicas que las desarrollan están luchando por equilibrar las oportunidades comerciales con decisiones morales que podrían desanimar a los clientes o sus propios trabajadores.
El Kaliouby dijo que no es difícil imaginar el uso de reconocimiento facial en tiempo real para detectar la deshonestidad o, en manos de un régimen autoritario, monitorear la reacción al discurso político para erradicar la disidencia. Pero la pequeña empresa, producto de un laboratorio de investigación del Instituto de Tecnología de Massachusetts, ha establecido límites sobre lo que hará.
La compañía ha evitado "cualquier seguridad, aeropuerto, incluso cosas de detección de mentiras", dijo el Kaliouby. En cambio, Affectiva se ha asociado con los fabricantes de automóviles que intentan ayudar a los conductores cansados a mantenerse despiertos, y con las marcas de consumo que desean saber si las personas responden a un producto con alegría o disgusto.
Inmediatamente después del mortal tiroteo del jueves en un periódico en Annapolis, Maryland, la policía dijo que utilizó el reconocimiento facial debido a retrasos en la identificación de las huellas dactilares.
En junio, el Aeropuerto Internacional de Orlando anunció planes para requerir escaneos de identificación facial de los pasajeros en todos los vuelos internacionales que lleguen y salgan antes de fin de año. Otros aeropuertos de EE.UU. han estado utilizando dichos escaneos para algunos vuelos internacionales de salida.
Las preocupaciones sobre la tecnología pueden sacudir incluso a las firmas tecnológicas más grandes. Google, por ejemplo, dijo recientemente que saldrá de un contrato de defensa después de que los empleados protestaron por la aplicación militar de la tecnología de IA de la compañía. El trabajo incluyó el análisis por computadora de imágenes de video de drones de Irak y otras zonas de conflicto.
Preocupaciones similares sobre los contratos del gobierno han provocado la discordia interna en Amazon y Microsoft. Desde entonces, Google publicó guías de AI que enfatizan usos que son "socialmente beneficiosos" y que evitan el "sesgo injusto".
Amazon, sin embargo, hasta ahora ha desviado la creciente presión de los empleados y defensores de la privacidad para detener Rekognition, una poderosa herramienta de reconocimiento facial que vende a los departamentos de policía y otras agencias gubernamentales.