Apple offre une prime d'un million $ à toute personne capable de pirater son nouveau système d'IA

Qui dispose d'un chiffrement de bout en bout et supprime immédiatement la demande une fois la tâche accomplie

Apple élargit l'Apple Security Bounty pour son Private Cloud Compute. Dans ce nouveau programme, Apple est prêt à offrir jusqu'à 1 million de dollars de prime à toute personne capable de pirater son nouveau système d'IA, Apple Intelligence. Dans le cadre de cette recherche, Apple offre un guide de sécurité, un environnement de recherche virtuel, ainsi que l'accès aux codes sources de certains composants.

En juillet 2024, Apple a lancé quelques fonctionnalités d'IA dans la version bêta développeur d'iOS 18.1 : des outils d'écriture, comme la possibilité de réécrire, de relire ou de résumer un texte dans tout le système d'exploitation en première partie, et des améliorations de Siri. Puis en octobre, avec le lancement de l'iPad mini, Apple a confirmé les nouvelles fonctions d'IA qu'Apple Intelligence apportera.

Apple est confiant sur la sécurité de l'Apple Intelligence, à tel point que le géant de la technologie a offert une prime d'un million de dollars à quiconque parviendrait à la pirater. La société a annoncé le 24 octobre qu'elle invitait "tous les chercheurs en sécurité - ou toute personne intéressée et techniquement curieuse" à effectuer "leur propre vérification indépendante de nos affirmations".

Le public est donc mis au défi de tester la sécurité du "Private Cloud Compute", les serveurs qui recevront et traiteront les demandes des utilisateurs pour l'Apple Intelligence lorsque la tâche d'IA est trop complexe pour être traitée sur l'appareil. Selon Apple, ce système est doté d'un chiffrement de bout en bout et supprime immédiatement la demande de l'utilisateur une fois la tâche accomplie.

Différents paiements sont prévus pour certaines découvertes, mais le million de dollars est attribué à toute personne capable d'exécuter un code sur le système sans être détectée et d'accéder à des parties sensibles. Apple Intelligence est un système d'intelligence artificielle intégré qui sera intégré à l'iPhone 16, 15 Pro et 15 Pro Max dans le courant du mois de novembre 2024. Ce produit alimenté par l'IA a été dévoilé en septembre, révélant de nouvelles fonctionnalités pour le tri des messages, l'écriture générative et la création d'emojis uniques. Mais seuls les détenteurs des smartphones haut de gamme iPhone 15 et du nouvel iPhone 16 auront accès à cette plateforme très attendue.

Tim Cook, le PDG d'Apple, a déclaré qu'il s'agissait d'un "nouveau chapitre de l'innovation Apple". "Cela signifie pour vous, en tant que client, que vous pouvez vous attendre à ce que l'IA soit davantage intégrée à vos applications et appareils à partir de maintenant." Apple Intelligence se concentre principalement sur les modèles d'IA dits "génératifs", qui permettent aux utilisateurs de créer du texte ou des images à partir d'invites.


Apple veut s'assurer que le système est sécurisé

"Pour encourager davantage vos recherches sur Private Cloud Compute, nous élargissons Apple Security Bounty pour inclure des récompenses pour les vulnérabilités qui démontrent une compromission des garanties fondamentales de sécurité et de confidentialité de PCC", a partagé l'entreprise dans l'annonce. Jusqu'à présent, Apple n'autorisait que les auditeurs tiers à pénétrer dans son Private Cloud Compute, mais désormais, tout le monde peut s'y essayer.

Les personnes qui relèvent le défi ont également accès à un guide de sécurité et à un environnement virtuel, qui permettent d'analyser Private Cloud Compute à l'intérieur de macOS Sequoia 15.1 developer preview. Cela signifie que les participants auront besoin d'un Mac doté d'une puce de série M et d'au moins 16 Go de RAM pour y accéder.

Apple versera 100 000 dollars à toute personne capable d'exécuter du code "non attesté", c'est-à-dire des requêtes de code non vérifiées par l'entreprise. Quiconque parviendra à accéder aux données de requête d'un utilisateur ou à d'autres informations sensibles le concernant en dehors de la "limite de confiance" (une limite où les données ou l'exécution d'un programme changent de niveau de "confiance" pourra gagner jusqu'à 250 000 dollars.

Et si quelqu'un parvient à "accéder aux données de requête d'un utilisateur ou à d'autres informations sensibles concernant l'utilisateur en dehors de la limite de confiance", il recevra 150 000 dollars. Une récompense de 50 000 dollars est prévue si quelqu'un parvient à pirater le système pour exposer des données de manière accidentelle ou inattendue.

"Nous pensons que Private Cloud Compute est l'architecture de sécurité la plus avancée jamais déployée pour le calcul d'IA dans le cloud à l'échelle, et nous sommes impatients de travailler avec la communauté des chercheurs pour renforcer la confiance dans le système et le rendre encore plus sûr et privé au fil du temps", a déclaré Apple.

La plupart des utilisateurs d'iOS devront attendre pour bénéficier d'Apple Intelligence. Mais il y aura une liste d'attente dès le lancement en raison de la forte demande potentielle.

La version de lancement d'Apple Intelligence comprendra des outils d'écriture pour la relecture et la réécriture, des réponses intelligentes qui répondent rapidement aux messages, des résumés de notifications, le nettoyage des photos, une première refonte de Siri, et bien d'autres choses encore. Mais certaines fonctionnalités, notamment Genmoji, Image Playground, l'intégration de ChatGPT et Visual Intelligence, devraient arriver dans le cadre d'iOS 18.2, qui devrait entrer en phase bêta d'ici un mois environ.

D'autres arriveront encore plus tard. Siri, par exemple, ne sera pas disponible avant 2025. En outre, la version de novembre n'est compatible qu'avec l'anglais américain, ce qui signifie que les pays autres que les États-Unis devront attendre décembre pour pouvoir utiliser Apple Intelligence dans leur langue.

Recherche de sécurité sur Private Cloud Compute


Voici l'annonce d'Apple concernant Private Cloud Compute :