Context.ai vuole unire la sensibilità dell'analisi del prodotto con i LLM

Dal rilascio di ChatGPT alla fine dello scorso anno, abbiamo visto aziende sviluppare strumenti di intelligenza artificiale generativa per aiutare i clienti a interagire con i loro prodotti e servizi in modo più naturale. Tuttavia, in molti casi, questi fornitori non hanno idea di quanto bene stiano funzionando i grandi modelli linguistici sottostanti o di quanto siano buone le risposte.

Context.ai è stato lanciato all'inizio di quest'anno per aiutare le aziende a comprendere meglio come gli utenti interagiscono con i loro LLM. Oggi, la società ha annunciato un investimento iniziale di 3,5 milioni di dollari per sviluppare appieno l’idea.

Il CEO Henry Scott-Green e il suo co-fondatore, il CTO Alex Gamble, hanno trascorso diversi anni lavorando presso Google: Scott-Green sul prodotto e Gamble come ingegnere del software. Insieme, hanno riconosciuto la necessità di un servizio che misurasse il comportamento di questi modelli, e c’erano pochissimi strumenti disponibili per aiutare.

“Abbiamo parlato con centinaia di sviluppatori che stanno costruendo LLM e hanno una serie di problemi davvero consistenti. Questi problemi sono che non capiscono come le persone utilizzano il loro modello e non capiscono come si sta comportando il loro modello. La frase che sento sempre è che "il mio modello è una scatola nera"", ha detto Scott-Green a TechCrunch.

In molti sensi, non è diverso dagli strumenti di analisi del prodotto come Amplitude o Mixpanel, che misurano il modo in cui gli utenti interagiscono con l'interfaccia di un prodotto, ad esempio dove fanno clic o quanto tempo rimangono su una pagina. Nel caso di Context, tuttavia, si tratta di scavare nei dati generati dal LLM e capire se sta producendo contenuti veramente utili che aiutano gli utenti a rispondere alle domande dei clienti. L’obiettivo finale è costruire un modello più efficace.

Il modo in cui funziona è che i clienti condividono le trascrizioni della chat con Context tramite un'API. Quindi analizza le informazioni utilizzando l'elaborazione del linguaggio naturale (NLP). Il software raggruppa e tagga le conversazioni in base all'argomento, quindi analizza ciascuna conversazione per determinare dai segnali disponibili se il cliente era soddisfatto della risposta.

Dopo aver analizzato il testo delle trascrizioni della chat, Context.ai fornisce un'analisi come questa.Crediti immagine:Contesto.ai

“Crediamo che sia in atto un grande cambiamento [con l'aumento dei LLM] e che nei prossimi anni si creeranno moltissime esperienze di chat. E in quel nuovo mondo, dove c’è un’enorme quantità di interfacce testuali con cui gli utenti interagiscono tramite testo, piuttosto che tramite interfacce grafiche, c’è bisogno di un diverso insieme di strumenti”, ha affermato.

Hanno iniziato costruendo un prototipo iniziale e lo hanno condiviso con i primi clienti e partner di progettazione, e da allora hanno continuato a migliorare e perfezionare il prodotto. Scott-Green indica che si tratta di un processo in corso, ma che sta suscitando molto interesse e ha clienti paganti.

Vale la pena notare per coloro che sono preoccupati per la sicurezza e la privacy che Context rimuove le informazioni personali durante l'importazione. Non utilizza il contenuto per la creazione di modelli o per scopi di marketing e conserva il contenuto per non più di 180 giorni, dopodiché viene eliminato, secondo Scott-Green.

Al momento l'azienda è piccola, con sei dipendenti, ma vede un futuro con un'organizzazione in crescita e ritiene che non sia mai troppo presto per pensare a costruire un'azienda diversificata.

“È ovviamente una sfida che l’ecosistema delle startup, e l’ecosistema tecnologico in generale, deve affrontare quando si tratta di costruire team rappresentativi, diversificati e inclusivi. È qualcosa in cui entrambi crediamo fortemente e, cosa ancora più importante, è qualcosa su cui entrambi stiamo agendo e impegnandoci davvero per garantire una diversità rappresentativa inclusiva [nella nostra base di dipendenti]", ha affermato.

L'investimento di oggi è stato co-guidato da GV (la divisione venture di Google) e Theory Ventures.