Los problemas de privacidad de la IA de Apple

Apple presentó una serie de funciones de inteligencia artificial en la WWDC24 , prometiendo traer herramientas poderosas al iPhone, iPad y Mac. Pero ¿puede realmente Apple garantizar la privacidad en el mundo de la IA? Las soluciones de nube privada y en dispositivos de Apple son impresionantes, pero la integración de ChatGPT crea una vulnerabilidad potencial.

Cómo Apple planea convertir su IA en una herramienta de privacidad

Apple presentó una serie de funciones de IA en la WWDC24, y estarán disponibles en todos los Mac, iPhones y iPads compatibles a finales de 2024. Pero la IA y la privacidad no suelen ir de la mano. Aun así, Apple ha asumido compromisos audaces pero razonables en materia de privacidad.

Procesamiento en el dispositivo

Normalmente, las operaciones de IA requieren una potencia de procesamiento significativa, un recurso del que carecen la mayoría de los teléfonos y computadoras portátiles estándar. Sin embargo, con la llegada del silicio de Apple, todos los Mac, iPhones y iPads equipados con chips de la serie M o A17 Pro (y más nuevos) serán capaces de ejecutar localmente la mayoría de los modelos de IA generativa , incluido el modelo de lenguaje de Apple.

Apple ha estado desarrollando su motor neuronal Apple Neural Engine (ANE) propietario desde hace un tiempo para manejar el aprendizaje automático y la inteligencia artificial. Con el paso de los años, se ha vuelto más eficiente procesar solicitudes de IA sin tener que entregarlas completamente a la CPU o la GPU. La mayoría de los modelos de inteligencia artificial de Apple funcionarán sin conexión y garantizarán la privacidad.

Computación en la nube privada (PCC)

Sin embargo, es posible que su dispositivo Apple no pueda manejar algunas solicitudes de IA localmente. Si bien Apple afirmó esto en la WWDC24, no especificó ni dio ejemplos de qué solicitudes serían demasiadas para un procesador local fuera de línea. Los ejemplos son especulativos, pero Apple dice que las “solicitudes complejas” podrían dañar su dispositivo.

La solución de Apple es Private Cloud Computing (PCC), un procesador de inteligencia artificial basado en la nube construido con silicio personalizado de Apple. Enfatiza la privacidad y la transparencia, y viene con su propio Secure Enclave, al igual que la solución de protección de dispositivos de Apple. Al utilizar PCC, las solicitudes de IA se eliminan inmediatamente después del procesamiento y nadie, incluida Apple, puede acceder a los datos a través de una puerta trasera. Para generar aún más confianza, Apple ofrece transparencia verificable, permitiendo que investigadores de seguridad externos auditen el software que se ejecuta en los nodos PCC.

ChatGPT plantea importantes riesgos para la privacidad

Tanto el procesamiento en el dispositivo como el PCC son excelentes medidas de privacidad, pero todavía hay un aspecto de Apple Intelligence que es cuestionable: ChatGPT . Para aquellos que no lo saben, Apple planea integrar ChatGPT en sus experiencias de IA, incluida Siri. Estas aplicaciones de IA aprovecharán la base de conocimientos más amplia de ChatGPT y tomarán prestadas sus capacidades de procesamiento de imágenes.

Para ser justos, Apple ha tomado algunas medidas para garantizar la privacidad del usuario al utilizar ChatGPT. Por ejemplo, cuando envía una solicitud a OpenAI, el dispositivo ocultará su dirección IP y no se crearán registros de su información. Además, todas las solicitudes de ChatGPT requieren su permiso por adelantado y usted debe otorgarlo cada vez.

Nota : A pesar de las afirmaciones de Elon Musk, OpenAI no puede acceder a todos los datos del dispositivo de un usuario; ChatGPT sólo puede procesar la información presentada en su mensaje.

Sin embargo, las funciones más potentes de ChatGPT requieren una suscripción y tendrás que conectarte a tu cuenta premium para disfrutarlas. Sin embargo, al hacerlo quedará sujeto a la política de privacidad de OpenAI. La política de privacidad de OpenAI le permite recopilar información personal, registrar el uso, entrenar modelos con información personal, compartir sus datos con terceros y muchos otros impactos relacionados.

Si bien existen formas de evitar algunas de las violaciones de privacidad de ChatGPT, la mayoría de las soluciones son indirectas y OpenAI podría evitarlas fácilmente. Parece que evitar ChatGPT en Apple Intelligence (especialmente en macOS) será difícil, si no imposible. Dependiendo de cómo uses Siri o Compose, es posible que dependas en gran medida de ChatGPT, dejando gran parte de tus datos personales en manos de OpenAI.