Galtea

Desplegar, supervisar i avaluar de manera eficaç els models d'IA generativa

Institució:

Institution

Grup d´investigació:

Language Technologies

Investigador/s:

Jorge Palomar, Baybars Külebi

Galtea

Descripció:

Galtea presenta una plataforma desenvolupada per BSC-CNS per desplegar, supervisar i avaluar de manera eficaç els models d'IA generativa, proporcionant un enfocament sistemàtic per avaluar el compliment de les últimes regulacions de la UE. L'objectiu principal és accelerar la introducció de productes basats en IA al mercat mentre es manté l'adhesió al panorama regulador.

Tipus d’actiu:

Servei

Categoria:

Life Sciences

Problema:

En el panorama en ràpida evolució de la intel·ligència artificial, els avenços tecnològics estan superant els marcs reguladors, creant una bretxa crítica en el compliment. El desembre de 2023 es va arribar a un acord provisional sobre el "Reglament d'intel·ligència artificial" al Parlament Europeu, que té com a objectiu garantir que els sistemes d'IA introduïts al mercat europeu respectin els drets fonamentals i els valors de la UE. Això significa que les empreses aviat s'enfrontaran a la difícil tasca de garantir que els seus models d'IA compleixin aquests nous estàndards, que requeriran un ampli coneixement i experiència en compliment per evitar possibles obstacles legals i sancions financeres.

Solució:

La tecnologia està dissenyada com una plataforma de compliment amb un component important de la plataforma de visibilitat del model d'IA (MLOps). És a dir, la plataforma està pensada no només per ajudar els models en algunes de les seves etapes més importants (formació, desplegament, avaluació, seguiment), sinó per garantir que cadascuna d'aquestes etapes compleix els requisits de la Llei d'IA o altres lleis que puguin entrar en joc. Això permet, d'una banda, garantir la transparència i la traçabilitat de tot el cicle de vida d'un producte basat en IA i, d'altra banda, avaluar la seguretat, els biaixos o la toxicitat, entre d'altres, del resultat final.

Àrees d'aplicació:

Empreses amb múltiples sistemes d'IA que necessiten eines integrals d'avaluació del compliment que es puguin integrar en diversos productes i departaments, empreses emergents amb productes d'IA d'alt risc que necessiten solucions de compliment accessibles, eficients i rendibles que permetin una entrada ràpida al mercat sense comprometre les obligacions reguladores. o inversors que necessiten realitzar avaluacions transparents i fiables del compliment i el risc de la IA per garantir la viabilitat de la inversió i els rendiments a llarg termini, entre d'altres.

Novetat:

La singularitat de la nostra tecnologia és que avalua el compliment dels models GenAI, amb especial atenció als LLM, de manera quantificable, tècnica i automàtica, i integra elements de MLOps per facilitar la seva aplicació en el cicle de vida dels productes basats en IA.

Protecció:

Software propietari

Mercat objectiu:

Grans empreses amb múltiples productes/sistemes d'IA, startups amb productes d'IA d'alt risc, inversors o companyies d'assegurances que analitzen els riscos dels productes, desenvolupadors de LLM/proveïdors d'API, representants autoritzats, despatxos d'advocats o empreses de consultoria informàtica/empresarial.

Keywords:

Compliment de l'IA, Llei d'IA, governança de l'IA, gestió de riscos d'IA, MLOps, observabilitat de LLM, desplegament de LLM

TRL: 4

CRL: N/A

BRL: N/A

IPRL: N/A

TmRL: N/A

FRL: N/A

Més informació

Si vols saber més sobre aquest projecte no dubtis en contactar amb nosaltres

Contacta´ns