L’écrivain présente un produit qui pourrait aider à réduire le contenu halluciné dans ses LLM

Alors que les entreprises explorent plus profondément l’IA générative, l’un des problèmes les plus déroutants est le problème de l’hallucination, où si le modèle ne connaît pas la réponse, il en invente simplement une, que cela ait un sens ou non. Pour travailler en entreprise, trouver un moyen d’atténuer ce problème est primordial.

Aujourd’hui, Writer, la plate-forme d’écriture d’IA générative, a annoncé Knowledge Graph en version bêta publique, un outil qui permet aux entreprises de collecter tout le contenu source actuel d’une organisation dans une base de données graphique. Le PDG de la société, May Habib, déclare qu’en utilisant le propre contenu du client, Knowledge Graph peut agir comme une sorte de validateur de contenu, en le comparant au contenu généré.

“La grande chose à propos d’un LLM est que s’il dispose d’informations réelles sur ce que vous essayez de faire, il utilisera ces informations”, a-t-elle déclaré. “Knowledge Graph offre la possibilité d’obtenir facilement les informations importantes – bases de données, bases de connaissances, lecteurs partagés, chats – dans des intégrations afin qu’elles puissent être utilisées par le LLM au service des cas d’utilisation très spécifiques autour desquels nos clients construisent.”

Il mettra automatiquement en évidence le contenu qui doit être vérifié, tout en suggérant une déclaration de remplacement basée sur le contenu le plus pertinent dans le Knowledge Graph, le cas échéant. Et Writer montrera son travail, affichant la source du contenu d’où provient le matériel de remplacement, donnant à l’employé humain la possibilité d’accepter ou de rejeter la suggestion.

La société définit Knowledge Graph comme “une représentation structurée d’informations stockées sous forme de graphique, qui permet une récupération rapide d’informations spécifiques”. Il peut se connecter directement aux sources de contenu de l’entreprise ou les clients peuvent déplacer manuellement le contenu en le faisant glisser et en le déposant dans l’interface Knowledge Graph.

C’est un référentiel séparé, il ne fait donc pas partie des systèmes de contenu qui contribuent au graphique. De plus, les entreprises peuvent héberger elles-mêmes le Knowledge Graph si elles le souhaitent, ou elles peuvent laisser Writer le gérer pour elles.

Ce n’est en aucun cas infaillible parce que rien ne l’est, mais c’est un pas en avant pour essayer d’aider les entreprises à réduire l’impact d’un problème connu. Les clients peuvent choisir la fréquence de mise à jour de Knowledge Graph, généralement hebdomadaire, mais cela peut être plus ou moins fréquent si le client souhaite le configurer de cette façon, a déclaré Habib. Plus vous prenez de temps entre les mises à jour, plus il y a de contenu qui n’est pas inclus dans le contrôle de précision.

La société a également annoncé la disponibilité de la possibilité d’apporter votre propre LLM à la plate-forme Writer si vous choisissez de le faire. Cela remplacerait le Writer LLM. Certaines grandes organisations peuvent souhaiter conserver un contrôle total sur le contenu au sein de leur organisation et ne pas utiliser de modèle externe. Le Knowledge Graph peut également se connecter à ces LLM créés en externe.

La possibilité d’utiliser un LLM externe et le Knowledge Graph sont disponibles en version bêta ouverte à partir d’aujourd’hui. Les deux produits avaient été dans une version bêta fermée avant cela. Writer a été fondée en 2020 et a levé 26 millions de dollars à ce jour, par Crunchbase.

Alors que les entreprises explorent plus profondément l’IA générative, l’un des problèmes les plus déroutants est le problème de l’hallucination, où si le modèle ne connaît pas la réponse, il en invente simplement une, que cela ait un sens ou non. Pour travailler en entreprise, trouver un moyen d’atténuer ce problème est primordial.

Aujourd’hui, Writer, la plate-forme d’écriture d’IA générative, a annoncé Knowledge Graph en version bêta publique, un outil qui permet aux entreprises de collecter tout le contenu source actuel d’une organisation dans une base de données graphique. Le PDG de la société, May Habib, déclare qu’en utilisant le propre contenu du client, Knowledge Graph peut agir comme une sorte de validateur de contenu, en le comparant au contenu généré.

“La grande chose à propos d’un LLM est que s’il dispose d’informations réelles sur ce que vous essayez de faire, il utilisera ces informations”, a-t-elle déclaré. “Knowledge Graph offre la possibilité d’obtenir facilement les informations importantes – bases de données, bases de connaissances, lecteurs partagés, chats – dans des intégrations afin qu’elles puissent être utilisées par le LLM au service des cas d’utilisation très spécifiques autour desquels nos clients construisent.”

Il mettra automatiquement en évidence le contenu qui doit être vérifié, tout en suggérant une déclaration de remplacement basée sur le contenu le plus pertinent dans le Knowledge Graph, le cas échéant. Et Writer montrera son travail, affichant la source du contenu d’où provient le matériel de remplacement, donnant à l’employé humain la possibilité d’accepter ou de rejeter la suggestion.

La société définit Knowledge Graph comme “une représentation structurée d’informations stockées sous forme de graphique, qui permet une récupération rapide d’informations spécifiques”. Il peut se connecter directement aux sources de contenu de l’entreprise ou les clients peuvent déplacer manuellement le contenu en le faisant glisser et en le déposant dans l’interface Knowledge Graph.

C’est un référentiel séparé, il ne fait donc pas partie des systèmes de contenu qui contribuent au graphique. De plus, les entreprises peuvent héberger elles-mêmes le Knowledge Graph si elles le souhaitent, ou elles peuvent laisser Writer le gérer pour elles.

Ce n’est en aucun cas infaillible parce que rien ne l’est, mais c’est un pas en avant pour essayer d’aider les entreprises à réduire l’impact d’un problème connu. Les clients peuvent choisir la fréquence de mise à jour de Knowledge Graph, généralement hebdomadaire, mais cela peut être plus ou moins fréquent si le client souhaite le configurer de cette façon, a déclaré Habib. Plus vous prenez de temps entre les mises à jour, plus il y a de contenu qui n’est pas inclus dans le contrôle de précision.

La société a également annoncé la disponibilité de la possibilité d’apporter votre propre LLM à la plate-forme Writer si vous choisissez de le faire. Cela remplacerait le Writer LLM. Certaines grandes organisations peuvent souhaiter conserver un contrôle total sur le contenu au sein de leur organisation et ne pas utiliser de modèle externe. Le Knowledge Graph peut également se connecter à ces LLM créés en externe.

La possibilité d’utiliser un LLM externe et le Knowledge Graph sont disponibles en version bêta ouverte à partir d’aujourd’hui. Les deux produits avaient été dans une version bêta fermée avant cela. Writer a été fondée en 2020 et a levé 26 millions de dollars à ce jour, par Crunchbase.