Bruselas quiere prohibir «sistemas de identificación biométrica remota en espacios públicos» en su regulación de la inteligencia artificial
Fuente: elDiario.es. –
La Comisión Europea ha presentado su propuesta de regulación de la Inteligencia Artificial en Europa.
La Comisión Europea ha propuesto este miércoles nuevas normas para regular la inteligencia artificial en la UE. ¿El propósito, según Bruselas? «Garantizar la seguridad y los derechos fundamentales de las personas y las empresas». Bruselas pretende abordar «los riesgos específicos que plantean los sistemas de inteligencia artificial y establecer el estándar más alto en todo el mundo».
Las nuevas, una vez aprobadas tras las negociaciones con los gobiernos y el Parlamento Europeo, se aplicarán de la misma forma en todos los Estados miembros de la UE.
Para Bruselas, «los sistemas de inteligencia artificial identificados como de alto riesgo incluyen la tecnología» utilizada en: infraestructuras críticas (por ejemplo, transporte), que podrían poner en riesgo la vida y la salud de los ciudadanos; formación educativa o vocacional, que puede determinar el acceso a la educación y el curso profesional de la vida de alguien (por ejemplo, calificación de exámenes); componentes de seguridad de los productos (por ejemplo, aplicación de la inteligencia artificial en cirugía asistida por robot); empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, software de clasificación de CV para los procedimientos de contratación); servicios públicos y privados esenciales (por ejemplo, calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo); aplicación de la ley que pueda interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la confiabilidad de las pruebas); gestión de migración, asilo y control de fronteras (por ejemplo, verificación de la autenticidad de los documentos de viaje); administración de justicia y procesos democráticos (por ejemplo, aplicar la ley a un conjunto concreto de hechos).
De acuerdo con la propuesta de Bruselas, «los sistemas de inteligencia artificial de alto riesgo estarán sujetos a estrictas obligaciones antes de que puedan comercializarse».
«En particular», dice la Comisión Europea, «todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. Su uso en espacios de acceso público en directo está prohibido en principio. Las excepciones limitadas están estrictamente definidas y reguladas (por ejemplo, cuando sea estrictamente necesario para buscar un niño desaparecido, para prevenir una amenaza terrorista específica e inminente o para detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito grave). Dicho uso está sujeto a la autorización de un órgano judicial u otro organismo independiente y a los límites adecuados en el tiempo, el alcance geográfico y las bases de datos buscadas».
La Comisión Europea considera «riesgo limitado» a los «sistemas de inteligencia artificial con obligaciones específicas de transparencia». Es decir, «cuando se utilizan sistemas de inteligencia artificial como chatbots, los usuarios deben ser conscientes de que están interactuando con una máquina para que puedan tomar una decisión informada para continuar o dar un paso atrás».
El «riesgo mínimo» se refiere a la propuesta legal que «permite el uso gratuito de aplicaciones como videojuegos habilitados para inteligencia artificial o filtros de spam».
«La gran mayoría de los sistemas de inteligencia artificial entran en esta categoría», reconoce Bruselas: «El proyecto de reglamento no interviene aquí, ya que estos sistemas representan solo un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos».
En términos de gobernanza, la Comisión Europea propone que las autoridades nacionales competentes de vigilancia del mercado supervisen las nuevas normas. Al tiempo, «la creación de una Junta Europea de Inteligencia Artificial facilitará su implementación e impulsará el desarrollo de estándares para la inteligencia artificial. Además, se proponen códigos de conducta voluntarios para la IA que no es de alto riesgo, así como entornos de prueba regulatorios para facilitar la innovación responsable».
Leer másLa Comisión Europea propone nuevas normas y medidas para favorecer la confianza en la inteligencia artificial
Fuente: Cuadernos de Seguridad.-
La Comisión Europea ha propuesto nuevas normas y medidas destinadas a convertir a Europa en el centro mundial de una inteligencia artificial (IA) digna de confianza. La combinación del primer marco jurídico sobre la IA de la historia y de un nuevo plan coordinado con los Estados miembros garantizará la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que reforzará la adopción, la inversión y la innovación en materia de IA en toda la UE. Complementarán este enfoque las nuevas normas sobre maquinaria, que adaptarán las normas de seguridad para dar mayor confianza a los usuarios en la nueva y versátil generación de productos.
El nuevo Reglamento sobre la IA garantizará que los europeos puedan confiar en lo que la IA puede ofrecer. Unas normas proporcionadas y flexibles abordarán los riesgos específicos que plantean los sistemas de IA y fijarán los estándares más altos del mundo. El plan coordinado expone los cambios de política y las inversiones necesarios en los Estados miembros para reforzar el liderazgo de Europa en el fomento de una IA centrada en el ser humano, sostenible, segura, inclusiva y fiable.
El teletrabajo dispara los presupuestos de seguridad informática de las empresas
Fuente: Cuadernos de Seguridad.-
Una gran mayoría de los CISOs (92%) incide en la necesidad de adoptar medidas de seguridad adicionales para mejorar el desempeño y la seguridad de sus empleados cuando trabajan fuera de la oficina/desde cualquier lugar. Así se desprende del estudio presentado por Ivanti, plataforma de automatización que ayuda a que cada conexión TI sea más inteligente y segura, que pone de manifiesto el notable aumento que están experimentando los presupuestos de seguridad informática de las empresas, a medida que se van adaptando al Everywhere Workplace (lugar de trabajo en cualquier parte). Además, el informe recoge que cuatro de cada cinco (80 %) CISOs, destacan también la necesidad de sustituir las contraseñas por formas más seguras de autenticación.
El estudio, en el que se encuestó a 400 CISOs de toda la región de EMEA, reveló que el presupuesto medio de seguridad del pasado año superó los 64 millones de euros, y el 81 % espera que aumente en los próximos 12 meses. A la pregunta sobre soluciones de software en las que tienen previsto invertir durante el próximo año, la gestión unificada de puntos finales (UEM) y las soluciones de autenticación biométrica, fueron las más mencionadas.
Teletrabajo
A pesar de que los CISOs afirman que más de dos quintos (41 %) de su presupuesto global de seguridad en el último año se destinó a software UEM, cuatro de cada cinco (80 %) confían que la inversión en software UEM especializado se incremente durante el próximo año. Este aumento de la inversión se debe principalmente a la gestión y segurización de la afluencia masiva de dispositivos que intentan acceder a los recursos de la empresa cuando los empleados se encuentran en teletrabajo.
Por otro lado, el estudio recoge que siete de cada diez (70 %) CISOs afirmaron que la dependencia de su organización en la autenticación biométrica para permitir el acceso remoto a los datos de la empresa aumentaría, y una cuarta parte (24 %) incidió en que el aumento sería significativo. Es probable que la mayor atención prestada a la autenticación biométrica se deba al importante crecimiento de los ataques de phishing.
Según el informe Verizon de investigaciones sobre violaciones de datos de 2020, el 22 % de los ataques en 2019 fueron atribuidos al phishing; y en el 2020, el 75 % de las empresas a nivel global fueron víctimas de algún tipo de ataque de phishing. El perfil principal de los datos comprometidos en este tipo de delitos informáticos fueron las credenciales, incluidas las contraseñas. Al adoptar la autenticación de dispositivos móviles con acceso basado en la biometría, las organizaciones pueden eliminar el principal factor de riesgo en los ataques de phishing. Cuando se les preguntó cómo cambiaría su inversión en soluciones de autenticación biométrica en relación al año pasado, el 70 % reconoció que aumentaría, con un 22 % que afirmó que el aumento sería considerable.
Nigel Seddon, vicepresidente de EMEA Oeste de Ivanti, señala que «El surgimiento del teletrabajo ha provocado una explosión de dispositivos remotos que intentan acceder a los recursos corporativos. Esta situación ha supuesto un enorme quebradero de cabeza para los CISOs de todo el mundo, ya que la afluencia de dispositivos ha facilitado a los ciberdelincuentes el poder disponer de múltiples nuevos vectores de seguridad a los que dirigir sus ataques. Los CISOs necesitan tener la seguridad de que disponen de una visibilidad completa y total de los dispositivos que intentan acceder a la red de su empresa y, a continuación, gestionar y securizar esos dispositivos de la mejor manera posible».
Para acceder a los resultados del estudio pincha aquí.
Leer más