Startup TokenRhythm raccoglie milioni di dollari per una piattaforma di routing tra modelli di intelligenza artificiale

La società cinese di infrastrutture per l’intelligenza artificiale TokenRhythm ha annunciato di aver chiuso un nuovo round di finanziamenti per milioni di dollari. Secondo quanto riportato da Leiphone, la raccolta porta il totale dei fondi raccolti dalla startup a decine di milioni di dollari. Il round è stato guidato da Honghui Fund, con la partecipazione di Juhe Capital e Shangshi Capital. In precedenza, TokenRhythm aveva completato un finanziamento seed guidato da Granite Asia, con il sostegno di VGC, Yuanjing Capital e Infinite Fund.

TokenRhythm si concentra su una nuova infrastruttura di base tra i grandi modelli linguistici e le applicazioni, chiamata Routing Harness. Questa piattaforma mira a ottimizzare la collaborazione tra più modelli, affrontando una delle principali sfide del settore: la selezione dinamica dei modelli in base alle esigenze del compito, ai vincoli di costo e alle fasi di esecuzione. L’obiettivo è ridurre i costi di chiamata dei modelli mantenendo alte le prestazioni, un aspetto cruciale per l’implementazione pratica degli agenti di intelligenza artificiale.

La società ha sviluppato un prodotto open source per agenti di intelligenza artificiale, OpenSquilla, che ha già superato i 6.600 GitHub Stars. La piattaforma integrata di Routing Harness consente una collaborazione efficiente tra più modelli a costi ridotti. In una valutazione su compiti complessi come DRACO, TokenRhythm ha dimostrato di ottenere risultati superiori a modelli di punta internazionali come Fable 5, con un terzo dei costi. Inoltre, la startup ha recentemente lanciato TokenRhythm API, una piattaforma di aggregazione di API per più modelli che supporta protocolli come OpenAI e Claude. Ad oggi, la piattaforma conta oltre 54.000 utenti e registra oltre 500 miliardi di token elaborati al giorno.

Il fondatore e amministratore delegato di TokenRhythm, Wang Yunhe, ha sottolineato che la capacità dei modelli è solo una parte della sfida. Il vero valore risiede nell’organizzazione dei modelli, nella comprensione dei compiti reali e nell’utilizzo dei feedback degli utenti per migliorare continuamente i modelli. Questo approccio potrebbe rappresentare la prossima frontiera per l’intero settore degli agenti di intelligenza artificiale. La startup, che vanta un team proveniente da realtà come Huawei e leader nel campo dei modelli linguistici, mira a sviluppare una nuova generazione di modelli nativi per agenti, partendo dalla sua tecnologia di routing.