एक सामान्य एलएलएम से स्विच करके, जो कि उनके डोमेन (पूंजी बाजार) के लिए एक मॉडल टेलोड की आवश्यकता के लिए बहुत अधिक विस्तार और बोझिल था। AI निवेश प्रबंधन आवेदन।

2020 में, बूस्टेड। प्रत्येक वैश्विक इक्विटी बाजार (उत्तरी अमेरिका, यूरोपीय संघ और ब्रिटेन, मध्य पूर्व, लैटिन अमेरिका और भारत में 60,000 से अधिक शेयरों पर प्रवृत्ति विश्लेषण। लेकिन एक एलएलएम का उपयोग करना कुछ महत्वपूर्ण कमियों के साथ आया - संचालित करने के लिए एक उच्च वार्षिक लागत और जीपीयू क्षमता सीमाएं जो सीमित हैं। स्केल करने की उनकी क्षमता।

Boosted.ai began domain-optimizing a model running on AWS and:

reduced costs by 90 percent without sacrificing quality

moved from overnight to near real-time updates, unlocking more value for their investment manager clients acting on hundreds of thousands of data sources

improved security and personalization with the ability to run a model in a customer’s private cloud, rather than running workloads through an LLM cloud

2023 was the year generative AI went mainstream. Enhancing efficiency to do more with less will continue to be on corporate agendas throughout 2024 and beyond. It is critical for teams to have a strategy for how they will incorporate generative AI to create productivity gains. However, even when there’s a clear use case, it’s not always apparent how to implement generative AI in a way that makes sense for a business’s bottom line.

Here’s how Boosted.ai incorporated generative AI to automate research tasks for their investment management clients in a way that improved outcomes for both Boosted.ai and their customers.

Founded in 2017, Boosted.ai offers an AI and machine learning (ML) platform—Boosted Insights—to help asset managers sort through data to enhance their efficiency, improve their portfolio metrics, and make better, data-driven decisions. When the founders saw the impact of powerful LLMs, they decided to use a closed-source LLM to build an AI-powered portfolio management assistant. Overnight, it would process millions of documents from 150,000 sources, including nontraditional datasets like SEC filings such as 10Ks and 10Qs, earnings calls, trade publications, international news, local news, even fashion. After all, if you’re talking about a company like Shein going public, a Vogue article could become relevant investing information. Boosted Insights summarized and collated all this information into an interactive user interface that their asset manager clients could sort through themselves.

With their new generative AI model, Boosted.ai was now pushing critical investment information to all their clients, over 180 of the world’s biggest asset managers. For these teams, time is money. When something impacts a company’s stock price, how fast someone gets and acts on that information can be the difference of thousands, even millions of dollars. Boosted.ai gave these managers an edge. For instance, it flagged that Apple was moving some of its manufacturing capabilities into India before news broke in mainstream media outlets, because Boosted Insights was reading articles in Indian media.

Adding a generative AI component to Boosted Insights automated a lot of the research to turn an investing hypothesis into an actual tradeजयपुर निवेश. For instance, if an investor was concerned about a trade war with China, they could ask Boosted Insights: “What are the kinds of stocks I should buy or sell?” Before generative AI, answering that question was a 40-hour research process, sifting through hundreds of pages of analyst reports, news articles, and earnings summaries. With an AI-powered portfolio management assistant, 80 percent of that work was now automated.

Boosted.ai’s generative AI rollout was extremely well received by clients, but the company wanted to scale it to run up to 5x or 10x more analysis and get from overnight reports to a true real-time system. But there was a problem: running the AI cost nearly $1 million a year in fees, and even if they wanted to buy more GPU capacity, they simply couldn’t. There just wasn’t enough GPU capacity for their AI financial analysis tool to scale into a real-time application.

Boosted.ai’s challenges are increasingly common ones for organizations adopting LLMs and generative AI. Since LLMs are trained for general purpose use, the companies that train these models spend a lot of time, testing, and money to get them to work. The larger the model, the more accelerated compute it has to use on every request. As a result, for most organizations, including Boosted.ai, it is just not viable to use an LLM for a specific task.

Boosted.ai decided to explore a more targeted and cost-effective approach: fine-tuning a smaller language model to perform a specific task. In the AI/ML world, these models are often referred to as “open source,” but that doesn’t mean they are hacked together by random people sharing a wiki, as you might imagine from the early days of open-source coding. Instead, open-source language models, like Meta’s Llama 2, are trained on trillions of data points and maintained in secure environments like Amazon Bedrockपुणे वित्तीय प्रबंधन. The difference is an open-source model gives users total access to its parameters and the option to fine-tune them for specific tasks. Closed-source LLMs, by contrast, are a black box that don’t allow for the kind of customization Boosted.ai needed to create.

उनके वाउल को ठीक करने की क्षमता बढ़ाने के लिए एक अंतर साबित होगी। इन-हाउस टीम को एक साथ स्टाफ करने की तुलना में प्रभावी रूप से, AWS, Invisi Ble, और बूस्टेड। प्रदर्शन।

हमारा लक्ष्य हमारे कार्यों के लिए उच्चतम संभव IQ के साथ सबसे छोटा सार्वजनिक मॉडल था। हमने सबसे बड़ा मॉडल पकड़ लिया, जिसे हमने काम किया और इसे अपने कार्यों के लिए सबसे अच्छा होने के लिए ट्यून किया। -फाउंडर और सीईओ

एक अधिक कॉम्पैक्ट और कुशल मॉडल के साथ, जो वित्तीय विश्लेषण में भी प्रदर्शन करता है, बढ़ा हुआ। महत्वपूर्ण रूप से, उन्हें वह जीपीयू मिलता है जो उन्हें बढ़ाने के लिए आवश्यक है।

एक ही कुशल के साथ एक छोटे से मॉडल को ठीक करने के बाद, बूस्टेड। यह ऊपर।

मॉडल भी खेलता है। मैं एक एलएलएम के साथ और कैसे तैनात करता है, इसके लिए अधिक वैकल्पिकता है। अतिरिक्त सुरक्षा के लिए AWS पर एक अन्य ग्राहक के वर्चुअल प्राइवेट क्लाउड (VPC) के अंदर।

एक पीढ़ी एआई की रणनीति 2024 में निवेश प्रबंधन फर्मों के लिए एक मौलिक उम्मीद होगी, और हम स्मार्ट एजेंटों को बनाने के लिए अपनी पीढ़ी के एआई के माध्यम से टर्नल डेटा में उन्हें चलाने के लिए बड़ी मांग देख रहे हैं। हमारे उपयोगकर्ता हमारे मॉडल पर एक बड़े बंद-स्रोत एलएलएम की तुलना में सुरक्षित महसूस करते हैं। AAME क्लाउड पर।

अपने डेटा को चलाने वाले निजी तैनाती तक पहुंचना पूरी चीज की कोशिश करने से बहुत आसान है। -

एक निजी एंडपॉइंट प्रदान करने वाले दिमाग के साथ, अधिक Cuscomers अधिक अनुकूलित अंतर्दृष्टि बनाने के लिए अपने स्वामित्व डेटा को साझा करने के लिए तैयार हैं। एक सार्वजनिक एपीआई समापन बिंदु के साथ।

जैसे-जैसे Bootd.ai की छोटी-छोटी भाषा मॉडल बढ़ती है, यह आपके द्वारा प्रदान की जाने वाली अंतर्दृष्टि और अधिक मात्रा में होता है। , "इस कंपनी के राजस्व का 7 प्रतिशत हिस्सा नकल किया जाएगा, और यहां यह काम है कि यह कैसे प्रभावित होगा।"

इसके अतिरिक्त, उन अंतर्दृष्टि को प्राप्त करने के लिए कम उपयोगकर्ता अंतरराष्ट्रीय की आवश्यकता होगी।

AI मानव इतिहास में सबसे तेजी से अपनाई गई तकनीक है, और छोटे संगठनों के लिए, आज के अत्याधुनिक उपयोग के मामले एक Feew s हॉर्ट वर्ष में दांव की तरह हैं।

हम इतिहास में वास्तव में अद्वितीय समय में हैं जब बहुत सारी बड़ी कंपनियां हैं जो इस तकनीक के पोर्टल को जानते हैं और इसे अल तरीकों से जोड़ रहे हैं। यदि आप आज एक स्टार्टअप हैं, तो मेटापोमर्स, उनके निजीकरण को जानें, और इस बात से अवगत रहें कि यदि आप करते हैं तो एक बहुत ही उच्च प्रोपेबिलिटी है।

एक बार जब आप आश्वस्त हो जाते हैं कि आपको कुछ उत्पाद-बाजार फिट मिल गया है, तो मैं तय करने के बारे में सोचूंगा यह एक डोमेन-सुपरविज़न मॉडल का उपयोग करने के लिए।-जोशू पैंटनी

इस परियोजना और लेख में उनके योगदान के लिए अदृश्य के लिए अतिरिक्त धन्यवाद।