La répression d’Apple sur les applications ChatGPT est peu probable, de nouvelles règles possibles plus tard

Le PDG d’Apple, Tim Cook, prend la parole lors de la conférence mondiale des développeurs d’Apple (WWDC) au San Jose Convention Center de San Jose, en Californie, le lundi 4 juin 2018.

Josh Edelson | AFP | Getty Images

Les grands modèles de langage comme ChatGPT peuvent produire des blocs entiers de texte qui se lisent comme un humain les a écrits. Les entreprises se précipitent pour intégrer ChatGPT dans leurs applications, y compris Microsoft, Instantanéet Shopify. Mais la tendance pourrait être bloquée si Apple décide de restreindre les applications basées sur ChatGPT de son App Store, qui est le seul moyen d’installer un logiciel sur un iPhone.

Blix, un fabricant d’applications de messagerie qui s’est régulièrement heurté à Apple au sujet de ses règles sur l’App Store, a déclaré avoir rencontré cet obstacle cette semaine.

Le co-fondateur Ben Volach a déclaré au Wall Street Journal qu’Apple avait rejeté une mise à jour de son application BlueMail car elle intégrait ChatGPT pour aider à rédiger des e-mails et n’incluait pas le filtrage de contenu sur la sortie du chatbot. Volach a également affirmé sur Twitter qu’Apple “bloquait” une mise à jour de l’IA.

Apple a déclaré que sans filtrage de contenu, le chatbot Blue Mail pourrait produire des mots qui ne conviennent pas aux enfants, et l’application de messagerie devrait augmenter son âge recommandé à 17 ans et plus, selon le rapport.

Apple enquête et les développeurs peuvent faire appel de la décision, a déclaré un porte-parole à CNBC.

Quoi qu’il en soit, l’épisode Blue Mail n’est pas le signe d’une répression imminente d’Apple sur les applications d’IA.

En fait, les fonctionnalités alimentées par ChatGPT sont déjà dans Snapchat et l’application Microsoft Bing, qui sont actuellement distribuées via l’App Store. D’autres applications d’IA, telles que Lensa, ont également été distribuées et ont prospéré dans l’App Store.

Il n’y a pas de politique formelle d’IA ou de chatbot dans les directives de l’App Store d’Apple, un document qui décrit ce qu’Apple autorise sur l’App Store. Apple a des employés dans un département appelé App Review qui chargent et utilisent brièvement toutes les applications et mises à jour avant de les approuver.

Apple pourrait ajouter des directives spécifiques à l’IA à l’avenir. Pour les applications cryptographiques, par exemple, Apple a explicitement introduit une section sur la crypto-monnaie dans les directives autorisant les applications de portefeuille et interdisant l’extraction sur l’appareil dans une mise à jour de 2018. Apple a introduit de nouvelles règles sur les NFT l’année dernière. La société publie souvent des mises à jour de ses directives en juin et octobre.

Mais l’épisode Blue Mail reflète le fait que l’App Store d’Apple est strict sur le contenu généré à grande échelle, soit par les utilisateurs (dans le cas des applications de médias sociaux, par exemple), soit, plus récemment, par l’IA.

Si une application peut afficher du contenu qui enfreint la propriété intellectuelle ou des messages qui constituent de la cyberintimidation, par exemple, l’application doit avoir un moyen de filtrer ce matériel et un moyen pour les utilisateurs de le signaler, explique Apple.

La règle de modération du contenu était probablement au cœur d’une escarmouche avec Twitter d’Elon Musk à la fin de l’année dernière et a été la raison pour laquelle Apple a démarré Parler depuis l’App Store en 2021. Apple a laissé Parler revenir sur l’App Store lorsqu’il a ajouté la modération du contenu.

Avant sa sortie sur iPhone dans l’application Bing, l’IA basée sur ChatGPT dans Bing a produit des conversations effrayantes, y compris des menaces contre ses utilisateurs et des appels à l’aide.

Mais Bing intègre des outils de modération et de filtrage du contenu. L’IA de Microsoft permet aux utilisateurs de rejeter les réponses nuisibles et comprend un “système de sécurité” qui comprend le filtrage du contenu et la détection des abus. Microsoft a également mis à jour son chatbot Bing ces dernières semaines pour atténuer ces conversations effrayantes, le chatbot refusant désormais souvent d’aborder des sujets qui pourraient le faire dérailler.

Laisser un commentaire