Marahil ay pamilyar ka sa pinakamainit na paksa ng taon: mga ahente ng AI . Karamihan sa mga ahente ng AI na ito ay mga ahente LLM .
"Ang rebolusyon na nakita namin ay binuo sa paligid ng mga modelong ito ng wika," paliwanag ni Will Knight, tech na manunulat sa Wired . "Iyon ay hindi katulad ng isang AI system na likas na isang ahente."
LLM maaaring itayo ang mga ahente upang makumpleto ang anumang uri ng gawaing nakabatay sa wika , na may kapangyarihan ng LLMs na gusto ng mga power bot ChatGPT at Claude.
At salamat sa kanilang wika at mga kakayahan sa pagsusuri, dahan-dahan nilang pinamamahalaan ang mga white collar na lugar ng trabaho, na may higit sa 80% ng mga kumpanyang nagpaplanong gumamit ng mga ahente ng AI sa susunod na ilang taon.
Habang ang malawak na kategorya ng mga ahente ng AI ay kinabibilangan ng mga non-linguistic na application (mga sistema ng rekomendasyon ng nilalaman, pagkilala sa imahe, robotical na kontrol, atbp.), LLM ang mga ahente ay karaniwang pang-usap na AI software.
Ano ang mga LLM mga ahente?
LLM Ang mga ahente ay mga tool na pinapagana ng AI na gumagamit ng malalaking modelo ng wika upang bigyang-kahulugan ang wika, makipag-usap, at magsagawa ng mga gawain.
Ang mga ahente na ito ay binuo sa mga kumplikadong algorithm na sinanay sa napakaraming data ng text, na nagbibigay-daan sa kanila na maunawaan at makagawa ng wika sa paraang ginagaya ang komunikasyong tulad ng tao.
LLM maaaring isama ang mga ahente sa mga ahente ng AI, AI chatbots , virtual assistant, software sa pagbuo ng nilalaman, at iba pang mga inilapat na tool.
paano gawin LLM nagtatrabaho ang mga ahente?
LLM pinagsasama ng mga ahente ang kapangyarihan ng isang LLM na may retrieval, pangangatwiran, memorya, at paggamit ng tool upang kusang kumpletuhin ang mga gawain. Isa-isahin natin kung ano ang ginagawa ng bawat isa sa mga sangkap na ito.
Sa kumbinasyon, pinapayagan ng mga kakayahang ito LLM mga ahente upang magsagawa ng kumplikado, maraming hakbang na daloy ng trabaho na may kumpletong awtonomiya.
Halimbawa:
- Kinukuha ng ahente ng benta ng B2B ang data ng CRM sa isang inaasam-asam, sinusuri ang pag-unlad ng deal, naaalala ang mga nakaraang pakikipag-ugnayan sa inaasam-asam upang ma-personalize nito ang pag-follow-up, at gumamit ng mga API ng email at kalendaryo para ipadala at maiiskedyul.
- Kinukuha ng isang IT agent ang mga log ng system upang masuri ang isang error, sinusuri ang mga hakbang sa pag-troubleshoot para sa pinakamahusay na diskarte, naaalala kung ano ang nagtrabaho sa mga nakaraang isyu ng user, at nagpapatupad ng mga script upang i-restart ang mga serbisyo o gumawa ng ticket.
Anong 4 na katangian ang tumutukoy sa isang LLM ahente?
Mayroong apat na pangunahing katangian ng isang LLM ahente:
1. Modelo ng Wika
Ang modelo ng wika ay madalas na itinuturing na "utak" ng isang LLM ahente. Ang kalidad at sukat nito ay direktang nakakaimpluwensya sa pagganap ng LLM ahente.
Isa itong sopistikadong algorithm na sinanay sa napakalaking dataset ng text, na nagbibigay-daan dito na maunawaan ang konteksto, makilala ang mga pattern, at makagawa ng magkakaugnay at may kaugnayang mga tugon sa konteksto.
- Kilalanin at alamin ang mga pattern ng wika
- Magkaroon ng antas ng kamalayan sa konteksto (salamat sa malawak nitong data ng pagsasanay)
- Iangkop sa iba't ibang domain at pangasiwaan ang malawak na hanay ng mga paksa
Tinutukoy ng modelo ng wika ang lalim, katumpakan, at kaugnayan ng mga tugon, na bumubuo sa pundasyon ng mga kakayahan sa wika ng ahente.
2. Alaala
Ang memorya ay tumutukoy sa kakayahang magpanatili ng impormasyon mula sa mga nakaraang pakikipag-ugnayan, tulad ng mga katotohanan, mga kagustuhan ng user o mga paksa sa mga session.
Pinahuhusay nito ang pag-unawa sa konteksto ng ahente at ginagawang mas tuluy-tuloy at may kaugnayan ang mga pag-uusap.
Sa ilang mga setup, pinapayagan ng memory ang ahente na mapanatili ang impormasyon sa paglipas ng panahon. Sinusuportahan nito ang pangmatagalang pakikipag-ugnayan kung saan "natututo" ang ahente mula sa paulit-ulit na gawi o mga kagustuhan ng user – kahit na madalas itong kinokontrol para sa privacy at kaugnayan.
3. Paggamit ng Tool
Ang paggamit nito ng kasangkapan ay tumatagal ng isang LLM ahente mula sa pag-uusap hanggang sa pagkilos.
An LLM agent ay maaaring isama sa mga panlabas na application, database, o API para magsagawa ng mga partikular na function.
Nangangahulugan ito na maaari silang kumuha ng real-time na impormasyon, magsagawa ng mga panlabas na pagkilos, o mag-access ng mga espesyal na database, na nagbibigay dito ng kakayahang magbigay ng real-time na impormasyon. Kabilang dito ang:
- Pagtawag sa mga API
- Pagkuha ng live na data, tulad ng mga update sa panahon o mga presyo ng stock
- Pag-iskedyul ng mga pagpupulong o appointment
- Pagtatanong sa mga database, tulad ng mga katalogo ng produkto o mga dokumento ng patakaran sa HR
Ang paggamit ng tool ay nagpapahintulot sa LLM ahente upang lumipat mula sa isang pasibo, nakabatay sa kaalaman na sistema patungo sa isang aktibong kalahok na may kakayahang makipag-interface sa iba pang mga sistema.
4. Pagpaplano
Ang pagpaplano ay ang kakayahan ng isang LLM ahente upang hatiin ang mga kumplikadong gawain sa isang serye ng mga napapamahalaang hakbang.
An LLM maaaring magplano ang ahente nang mayroon man o walang feedback. Ang pagkakaiba?
- Ang pagpaplano nang walang puna ay nangangahulugan ng LLM gagawa ng plano ang ahente batay sa paunang pag-unawa nito. Ito ay mas mabilis at mas simple, ngunit walang kakayahang umangkop.
- Ang pagpaplano na may puna ay nangangahulugan ng isang LLM maaaring patuloy na pinuhin ng ahente ang plano nito, kumukuha ng input mula sa kapaligiran nito. Ito ay mas kumplikado, ngunit ginagawa itong mas nababaluktot at nagpapabuti sa pagganap sa paglipas ng panahon.
Sa pamamagitan ng pagpaplano, isang LLM ang ahente ay maaaring lumikha ng mga lohikal na daloy na umuusad patungo sa isang solusyon, na ginagawa itong mas epektibo sa paghawak ng mga kumplikadong kahilingan.
Ano ang iba't ibang uri ng LLM mga ahente?
.webp)
Mga Ahente sa Pag-uusap (hal. suporta sa customer at pagbuo ng lead)
Ang mga ganitong uri ng ahente ay nakikipag-ugnayan sa natural na pag-uusap sa mga user – madalas silang nagbibigay ng impormasyon, sumasagot sa mga tanong, at tumulong sa iba't ibang gawain.
Ang mga ahente na ito ay umaasa sa LLMs upang maunawaan at makabuo ng mga tugon na tulad ng tao.
Mga halimbawa: Mga ahente ng suporta sa customer at mga chatbot sa pangangalaga sa kalusugan
Mga Ahente na Nakatuon sa Gawain (hal., AI assistants at AI workflows)
Nakatuon sa pagsasagawa ng mga partikular na gawain o pagkamit ng mga paunang natukoy na layunin, nakikipag-ugnayan ang mga ahenteng ito sa mga user upang maunawaan ang kanilang mga pangangailangan at pagkatapos ay magsagawa ng mga aksyon para matupad ang mga pangangailangang iyon.
Mga halimbawa: AI assistants at HR bots
Mga Ahente ng Creative (hal. mga tool sa pagbuo ng nilalaman)
May kakayahang bumuo ng orihinal at malikhaing nilalaman tulad ng likhang sining, musika, o pagsulat, ginagamit ng mga ahenteng ito LLMs upang maunawaan ang mga kagustuhan ng tao at mga artistikong istilo, na nagbibigay-daan sa kanila na makagawa ng nilalaman na sumasalamin sa mga madla.
Mga Halimbawa: Mga tool sa pagbuo ng nilalaman at mga tool sa pagbuo ng imahe (tulad ng Dall-E )
Mga Collaborative na Ahente (hal. mga enterprise AI agent)
Ang mga ahenteng ito ay nagtatrabaho kasama ng mga tao upang makamit ang mga ibinahaging layunin o gawain, na nagpapadali sa komunikasyon, koordinasyon, at pakikipagtulungan sa pagitan ng mga miyembro ng koponan o sa pagitan ng mga tao at mga makina.
LLMs maaaring suportahan ang mga nagtutulungang ahente sa pamamagitan ng pagtulong sa paggawa ng desisyon, pagbuo ng mga ulat, o pagbibigay ng mga insight.
Mga halimbawa: Karamihan sa mga ahente ng enterprise AI at mga chatbot sa pamamahala ng proyekto
Paano ginagamit ng mga negosyo LLM mga ahente?
Nakikinabang ang mga negosyo mula sa LLM mga ahente sa mga lugar na may kinalaman sa pagproseso at pagtugon sa natural na wika, tulad ng pagsagot sa mga tanong, pagbibigay ng gabay, pag-automate ng mga daloy ng trabaho, at pagsusuri ng text.
Madalas na ginagamit ng mga negosyo LLM mga ahente para sa marketing , pagsusuri ng data, pagsunod, tulong legal, suporta sa pangangalagang pangkalusugan, mga gawaing pinansyal , at edukasyon .
Narito ang 3 sa mga pinakasikat na kaso ng paggamit ng LLM mga ahente:
Suporta sa Customer
Ayon sa isang pag-aaral ng 167 kumpanya ng automation expert na si Pascal Bornet, ang customer service ay ang pinakasikat na use case para sa LLM pag-ampon ng ahente.
LLM Ang mga ahente ay malawakang ginagamit sa suporta sa customer upang pangasiwaan ang mga FAQ, i-troubleshoot ang mga isyu, at magbigay ng 24/7 na tulong.
Ang mga ahenteng ito ay maaaring makipag-ugnayan sa mga customer sa real time, na nag-aalok ng agarang tulong o dumaraming kumplikadong mga katanungan sa mga ahente ng tao.
Tingnan din ang: Ano ang chatbot ng customer service?
Pagbebenta at Pagbuo ng Lead
Sa mga benta, LLM ginagamit ang mga ahente para sa pagbuo ng lead ng AI — maaari pa nilang maging kwalipikado ang mga lead pagkatapos sa pamamagitan ng pakikipag-ugnayan sa mga potensyal na customer sa mga pag-uusap, pagtatasa ng mga pangangailangan, at pangangalap ng mahalagang impormasyon.
Maaari din nilang i-automate ang mga follow-up na pakikipag-ugnayan, pagpapadala ng mga personalized na rekomendasyon o impormasyon ng produkto batay sa mga interes ng customer.
Tingnan din ang: Paano gamitin ang AI para sa Sales
Panloob na Suporta: HR at IT
Para sa panloob na suporta, LLM pinapasimple ng mga ahente ang mga proseso ng HR at IT sa pamamagitan ng paghawak ng mga karaniwang katanungan mula sa mga empleyado.
Sa katunayan, natuklasan iyon ng pag-aaral ng Bornet LLM ang mga ahente sa mga panloob na operasyon ay ang pinaka-epektibo sa gastos, na nagse-save ng 30-90% ng oras na kinuha noon para magawa ang mga panloob na gawain.
Sa HR, sinasagot nila ang mga tanong sa mga paksa tulad ng mga benepisyo, mga patakaran sa leave, at payroll, habang sa IT, nagbibigay sila ng pag-troubleshoot para sa mga pangunahing teknikal na isyu o ino-automate ang mga nakagawiang gawain tulad ng pag-setup ng account.
Nagbibigay-daan ito sa mga HR at IT team na tumuon sa mas kumplikadong mga responsibilidad, sa halip na paulit-ulit na abala.
Tingnan din ang: Pinakamahusay na mga ahente ng AI para sa HR
Paano Pagbutihin LLM Mga Tugon ng Ahente
Kung nagko-customize ka ng LLM para sa isang proyekto ng AI , gugustuhin mong i-tweak ang mga karaniwang tugon na ibibigay ng pampublikong modelo sa mga user. (Hindi mo maaaring irekomenda ng iyong chatbot ang kumpetisyon, eh?) Baka gusto mo rin itong gumamit ng custom na lohika ng negosyo , upang gumanap ito nang higit na parang isang sinanay na empleyado kaysa sa random na henerasyon ng wika.
Mayroong apat na pangkalahatang konsepto na nagpapabuti sa kalidad ng LLM mga tugon:
- BASAHAN
- Fine tuning
- Pag-udyok sa N-shot
- Maagap na engineering
1. Retrieval-augmented generation
Ang RAG ay isang magarbong pangalan para sa isang simpleng bagay na nagawa nating lahat ChatGPT : paglalagay ng ilang teksto sa ChatGPT at nagtatanong tungkol dito.
Ang karaniwang halimbawa ay ang pagtatanong kung ang isang partikular na produkto ay may stock sa isang e-commerce na site, at isang chatbot na naghahanap ng impormasyon sa isang katalogo ng produkto (sa halip na sa mas malawak na internet).
Sa mga tuntunin ng bilis ng pag-unlad, at pagkuha ng real-time na impormasyon, RAG ay isang dapat-may.
Karaniwang hindi nito naaapektuhan kung aling modelo ang pipiliin mo, gayunpaman walang pumipigil sa iyo na lumikha ng isang LLM Ang endpoint ng API na nagtatanong ng impormasyon at mga sagot at ginagamit ang endpoint na ito na parang sarili nito LLM .
Ang paggamit ng RAG para sa isang chatbot na nakabatay sa kaalaman ay kadalasang mas madaling mapanatili, dahil hindi mo kailangang i-fine-tune ang isang modelo at panatilihin itong napapanahon – na makakabawas din sa mga gastos.
2. Fine-tuning
Kasama sa fine-tuning ang pagbibigay ng mga halimbawa sa iyong modelo upang matutunan nito kung paano gawin nang maayos ang isang partikular na gawain. Kung gusto mo itong maging mahusay sa pagsasalita tungkol sa iyong produkto, maaari kang magbigay ng isang bahagi ng mga halimbawa ng pinakamahusay na mga tawag sa pagbebenta ng iyong kumpanya.
Kung open source ang modelo, tanungin ang iyong sarili kung ang iyong team ay may sapat na kakayahan sa pag-inhinyero upang ayusin ang isang modelo.
Kung ang modelo ay closed source at ibinigay bilang isang serbisyo - GPT -4 o Claude – kadalasan ay maaari mong i-fine-tune sa iyong mga engineer ang mga custom na modelo gamit ang mga API. Karaniwang tumataas nang malaki ang presyo sa pamamagitan ng pamamaraang ito, ngunit kakaunti o walang maintenance.
Ngunit para sa maraming mga kaso ng paggamit, ang fine-tuning ay hindi ang unang hakbang patungo sa pag-optimize ng iyong modelo.
Ang isang mahusay na kaso para sa fine-tuning ay pagbuo ng isang bot ng kaalaman para sa static na kaalaman. Sa pamamagitan ng pagbibigay ng mga halimbawa ng mga tanong at sagot, dapat nitong masagot ang mga ito sa hinaharap nang hindi tinitingnan ang sagot. Ngunit hindi ito isang praktikal na solusyon para sa real-time na impormasyon.
3. N-shot learning
Ang pinakamabilis na paraan upang makapagsimula sa pagpapabuti ng kalidad ng mga tugon ay ang magbigay ng mga halimbawa sa isang solong LLM API na tawag.
Zero-shot – pagbibigay ng zero na halimbawa ng hinahanap mo sa isang sagot – ay kung paano ginagamit ng karamihan sa atin ChatGPT . Ang pagdaragdag ng isang halimbawa (o one-shot) ay karaniwang sapat upang makita ang isang malaking pagpapabuti sa kalidad ng pagtugon.
Higit sa isang halimbawa ang itinuturing na n-shot. Hindi binabago ng N-shot ang modelo, hindi katulad ng fine-tuning. Nagbibigay ka lang ng mga halimbawa bago humingi ng tugon, sa tuwing magtatanong ka.
Ngunit ang diskarteng ito ay hindi maaaring gamitin nang labis: LLM ang mga modelo ay may pinakamataas na sukat ng konteksto, at may presyo ayon sa laki ng mensahe. Maaaring alisin ng fine-tuning ang pangangailangan para sa mga halimbawa ng n-shot, ngunit tumatagal ng mas maraming oras upang maging tama.
4. Maagap na mga diskarte sa engineering
Mayroong iba pang maagang mga diskarte sa engineering, tulad ng chain-of-thought , na pumipilit sa mga modelo na mag-isip nang malakas bago makabuo ng sagot.
Mayroon ding prompt chaining , na naghihikayat sa mga modelo na hatiin ang mga kumplikadong gawain sa mas maliliit na hakbang sa pamamagitan ng pagpapatakbo ng maraming prompt nang magkakasunod.
Ang mga diskarteng ito ay maaaring makabuluhang tumaas ang kalidad at pagiging maaasahan ng mga tugon — lalo na para sa mga gawaing mabibigat sa pangangatwiran — ngunit kadalasan ay may halaga ang mga ito sa mas mahabang tugon, mas mataas na paggamit ng token, at mas mabagal na pagganap.
Pinatataas nito ang kalidad ng tugon, ngunit sa halaga ng haba ng tugon, gastos at bilis.
Paano Gumawa ng isang LLM Ahente sa 6 na Hakbang
1. Tukuyin ang mga Layunin
Ang unang hakbang sa pagbuo ng isang ahente ng AI o chatbot ay tukuyin kung ano talaga ang gusto mong magawa nito.
Linawin kung ano ang gusto mo LLM ahente upang makamit, tumulong man ito sa mga katanungan ng customer, pagbuo ng nilalaman, o paghawak ng mga partikular na gawain.
Ang pagtukoy ng malinaw na mga layunin ay huhubog sa setup at configuration ng ahente.
2. Pumili ng AI Platform
Ang pinakamahusay na mga platform ng AI ay ganap na nakasalalay sa iyong mga layunin at pangangailangan.
Pumili ng platform na naaayon sa iyong mga kinakailangan, isinasaalang-alang ang mga salik tulad ng mga opsyon sa pag-customize, mga kakayahan sa pagsasama, kadalian ng paggamit, at suporta.
Ang plataporma ay dapat:
- Suportahan ang iyong gustong use case
- Mag-alok ng iyong gusto LLMs
- Nag-aalok ng mga kakayahan sa pagsasama
3. I-configure ang LLM
Batay sa mga opsyon ng platform, pumili ng pre-built LLM o ayusin ang isang modelo para sa mga espesyal na gawain kung kinakailangan.
Maraming mga platform ang nag-aalok ng mga built-in na modelo ng wika na pre-trained at handa nang gamitin.
Kung interesado kang i-customize ang iyong LLM paggamit, basahin ang aming artikulo sa pagpili ng custom na opsyon LLM para sa iyong AI project mula sa aming growth engineer, Patrick Hamelin .
4. Isama ang Mga Tool
Karamihan sa mga platform ay nagbibigay ng mga opsyon sa pagsasama para sa mga panlabas na tool. Ikonekta ang anumang mga API, database, o mapagkukunan na kakailanganing i-access ng iyong ahente, gaya ng CRM data o real-time na impormasyon.
5. Subukan at Pinuhin
Subukang mabuti ang ahente gamit ang built-in na mga tool sa pagsubok ng platform. Isaayos ang mga parameter, agarang parirala, at mga daloy ng trabaho batay sa mga resulta ng pagsubok para matiyak na mahusay ang performance ng ahente sa mga totoong sitwasyon.
6. I-deploy at Subaybayan
Gamitin ang mga tool sa pagsubaybay ng platform upang subaybayan ang mga pakikipag-ugnayan at pagganap ng ahente pagkatapos ng pag-deploy.
Magtipon ng mga insight at pinuhin ang setup kung kinakailangan, sinasamantala ang anumang mekanismo ng feedback na ibinigay ng platform.
Mag-deploy ng custom LLM ahente
LLM ang mga ahente ay umaabot sa mass adoption rate sa mga enterprise – sa customer service, internal operations, at e-commerce. Ang mga kumpanyang mabagal sa pag-adopt ay mararamdaman ang mga kahihinatnan ng pagkawala ng AI wave.
Botpress ay isang walang katapusang napapalawak na platform ng ahente ng AI na binuo para sa mga negosyo. Ang aming stack nagbibigay-daan sa mga developer na bumuo LLM mga ahente na may anumang mga kakayahan na maaaring kailanganin mo.
Tinitiyak ng aming pinahusay na suite ng seguridad na palaging protektado ang data ng customer, at ganap na kinokontrol ng iyong development team.
Simulan ang pagtatayo ngayon. Ito'y LIBRE.
O makipag-ugnayan sa aming team para matuto pa.
