Apple advirtió que los agentes de inteligencia artificial capaces de actuar autónomamente podrían representar riesgos para sus operaciones, la privacidad de los usuarios y su reputación. En su informe financiero anual, la compañía reconoció que estas tecnologías pueden ejecutar acciones inesperadas, acceder a sistemas sin autorización y generar responsabilidades legales.
La advertencia aparece mientras Silicon Valley acelera el desarrollo de agentes capaces de utilizar computadoras, enviar mensajes, modificar programas y realizar transacciones sin intervención humana constante.
¿Qué peligros identifica Apple en los agentes de inteligencia artificial?
Apple explicó que estos sistemas pueden interactuar con plataformas internas o externas, ejecutar código y realizar operaciones sin contar necesariamente con los permisos correspondientes.
Según el documento, los agentes “pueden comportarse de maneras no intencionadas o impredecibles, incluso realizando acciones que no fueron dirigidas, instruidas ni autorizadas”.
La compañía también reconoció que su capacidad para supervisar agentes desarrollados por terceros podría ser limitada, aumentando la exposición a incidentes de seguridad, demandas y daños reputacionales.
La preocupación coincide con episodios de agentes que superaron sus entornos de seguridad y accedieron a servicios externos. Empresas como Amazon y JPMorgan Chase también están desarrollando políticas para controlar estas herramientas.
Apple modificó recientemente los permisos de acceso completo al disco en computadoras Mac, buscando reducir los riesgos derivados de conceder privilegios elevados a aplicaciones autónomas.
Te puede interesar: Uber supera las previsiones de ingresos, pero sus ganancias se desploman 92% y preocupan sus negocios principales
¿Cómo pretende Apple ampliar Siri sin comprometer la privacidad?
El director ejecutivo, John Ternus, aseguró que Apple considera prometedoras las capacidades autónomas, aunque insiste en mantener controles estrictos sobre la información personal.
“Simplemente queremos asegurarnos de que los usuarios sean conscientes de a qué le están dando acceso”, afirmó durante la presentación de resultados.
La compañía lanzó Siri AI, un asistente que utiliza información almacenada localmente, incluidos calendarios y correos electrónicos, para ofrecer respuestas personalizadas sin permitir operaciones autónomas prolongadas.
Ternus destacó que proteger estos datos constituye un “factor diferenciador clave” frente a otras plataformas.
“Siri puede acceder a esa información y ayudarte a consultarla de forma muy segura y privada, sin que nadie más tenga acceso a ella”, explicó.
Apple también advirtió que las regulaciones sobre inteligencia artificial y superinteligencia continúan cambiando, lo que podría elevar sus costos de cumplimiento y aumentar las responsabilidades empresariales.
