DeepSeek: Entre el "pelotazo" empresarial y los múltiples riesgos de privacidad

La empresa china DeepSeek se balancea entre el pelotazo tecnológico y empresarial que ha supuesto la irrupción de su último modelo de Inteligencia Artificial (IA) y las advertencias de los expertos sobre los múltiples riesgos que su uso implica para la privacidad y la adecuada protección de los datos personales.

Sus desarrolladores mantienen que el modelo «R1» es comparable y en algunos aspectos superior al «o1» de la estadounidense OpenAI, que lanzó el ChatGPT, en cuanto se refiere a resolución de problemas matemáticos, programación o deducción lingüística, y que su desarrollo y sus servicios son además mucho más baratos que los de los gigantes tecnológicos americanos.

Pero las dudas y los temores que suscita la aplicación ha motivado ya que numerosos países han bloqueado su uso o prohibido su utilización en determinados dispositivos, y los informes de empresas de ciberseguridad y consultoras tecnológicas que alertan de los riesgos que supone para la privacidad y la adecuada protección de los datos personales comienzan a amontonarse.

Empresas y expertos ponen el acento en la trascendental relevancia de los modelos de IA basados en «códigos abiertos» y en que la falta de regulación y de control podría desencadenar que cualquier actor con unos conocimientos avanzados lo pudiera utilizar con fines maliciosos.

Los riesgos de una IA sin límites éticos

La compañía del sector de la ciberseguridad Panda Security ha publicado un informe sobre «Las consecuencias de que las IA generativas sí permitan vulnerar los derechos de privacidad», en el que alerta que los cambios en la política de los grandes desarrolladores de Inteligencia Artificial podría derivar en consecuencias «catastróficas» como la manipulación masiva mediante campañas de desinformación, ciberataques cada vez más sofisticados o una recopilación de datos sin consentimiento previo que erosione el derecho fundamental a la privacidad.

La empresa ha incidido sin embargo en que la regulación no puede ser un esfuerzo aislado de cada país, ya que se trata de una tecnología global y su desarrollo «sin límites éticos» no entiende de fronteras, y en la importancia de desarrollar un marco común de supervisión para evitar que la inteligencia artificial se acabe convirtiendo en un arma de manipulación y de vigilancia masiva.

También la compañía ESET, especializada en ciberseguridad, ha alertado contra esos riesgos, y su director de Investigación y Concienciación, Josep Albors, recordó que el modelo chino está ya sometido a un intenso escrutinio por la comunidad de seguridad informática debido a las preocupaciones en torno a su privacidad, a las vulnerabilidades y a las prácticas de recopilación de datos.

O la multinacional estadounidense de la ciberseguridad Palo Alto Networks, que ha publicado también un informe sobre la irrupción del modelo chino en el que asegura que ha detectado que DeepSeek es «preocupantemente vulnerable» en algunos aspectos -entre ellos las restricciones que actúan como barreras de seguridad- o que puede llegar a producir contenidos «nefastos» cuando se utilizan con pocos conocimientos o sin una experiencia profesional especializada.

«Todas las empresas recopilan datos»

Juan Ignacio Rouyet, responsable de IA en la consultora tecnológica Eraneos, observó que tras la repentina incursión del modelo chino están aflorando las dudas sobre sus riesgos y precisó que muchos de los problemas pueden radicar no tanto en el «código abierto» de la IA sino en la página web a la que accede el usuario, y que es donde se puede producir toda la recopilación irregular de información, un «sitio» conectado con la operadora de telecomunicaciones estatal China Mobile.

En declaraciones a EFE, sí reconoció el especial recelo ante este tipo de servicios cuando provienen de China, pero también que «todas las empresas recopilan datos», y en ese sentido incidió en la importancia de las labores de regulación y de supervisión y valoró que al menos en la Unión Europea se apueste con firmeza por esa regulación y por la vigilancia que traslade tranquilidad y confianza a los usuarios.

Rouyet, que preside el laboratorio de ideas «We The Humans» -que pone el foco en la importancia de disponer de una IA «ética», no apreció tampoco un riesgo real de que la apuesta de la Unión Europea (UE) por disponer de marcos reguladores rigorosos y sólidos acabe abriendo una brecha tecnológica por el desarrollo y el uso de la inteligencia artificial respecto a países como Estados Unidos o China, ya que está «convencido» de que se acabará imponiendo esa regulación en todo el mundo.

Y aunque advirtió de los «riesgos reales» para la privacidad en el modelo desarrollado por la compañía china, circunscribió el «pelotazo» que ha dado este modelo al ámbito empresarial y bursátil por tratarse de un sistema igual de eficiente que otros que ya existen pero mucho más barato en su creación y entrenamiento, pero en ningún caso se trata de un desarrollo tecnológico innovador.

«Es más un movimiento de ficha en el tablero del ajedrez en que se ha convertido la inteligencia artificial en el mundo; es un toque de atención al mercado», manifestó este experto, quien cuestionó además la verdadera eficiencia del modelo al trascender noticias que señalan que no se invirtieron seis millones de dólares sino 1.600.

Lea más contenido interesante y actual:

• Francia afirma que la UE «responderá» a las amenazas de EEUU de imponer aranceles al acero

• Inversión en criptomonedas se ha vuelto una «montaña rusa» tras el regreso de Donald Trump