Shih burimin për Modeli i madh gjuhësor

{{Përkthim i përafërt|anglishtja}}

Një '''model i madh gjuhësor''' ('''MMGJ'''; nga [[anglishtja]]: {{Lang|en|large language model}}''', LLM''') është një lloj modeli i [[Mësimi makinerik|mësimit makinerik]] i caktuar për detyra të [[Përpunimi i gjuhës natyrore|përpunimit të gjuhës natyrore]] siç është [[Inteligjenca artificiale gjenerative|gjenerimi]] i gjuhës. Si [[Modeli i gjuhës|modele gjuhësore]], MMGJ-të i fitojnë këto aftësi duke mësuar marrëdhëniet statistikore nga sasi të mëdha teksti gjatë një procesi [[Mësimi i vetëmbikëqyrur|trajnimi të vetëmbikëqyrur]] dhe gjysmë të mbikëqyrur.<ref name=":7">{{Cite web |date=2019-02-14 |title=Better Language Models and Their Implications |url=https://openai.com/blog/better-language-models/ |url-status=live |archive-url=https://web.archive.org/web/20201219132206/https://openai.com/blog/better-language-models/ |archive-date=2020-12-19 |access-date=2019-08-25 |website=[[OpenAI]] |language=en}}</ref>

MMGJ-të më të fuqishme dhe më të avancuara janë [[Transformuesi i ushtruar gjenerativ|transformuesit e ushtruar gjenerativë]] ({{Lang|en|generative pretrained transformer}}; GPT), pra rrjetet nervore artificiale që mund të përshtaten deri në imtësi për detyra të caktuara ose të udhëzohet nga porositë e përdoruesit.<ref name="few-shot-learners">{{cite journal |last1=Brown |first1=Tom B. |last2=Mann |first2=Benjamin |last3=Ryder |first3=Nick |last4=Subbiah |first4=Melanie |last5=Kaplan |first5=Jared |last6=Dhariwal |first6=Prafulla |last7=Neelakantan |first7=Arvind |last8=Shyam |first8=Pranav |last9=Sastry |first9=Girish |last10=Askell |first10=Amanda |last11=Agarwal |first11=Sandhini |last12=Herbert-Voss |first12=Ariel |last13=Krueger |first13=Gretchen |last14=Henighan |first14=Tom |last15=Child |first15=Rewon |date=dhj 2020 |editor1-last=Larochelle |editor1-first=H. |editor2-last=Ranzato |editor2-first=M. |editor3-last=Hadsell |editor3-first=R. |editor4-last=Balcan |editor4-first=M.F. |editor5-last=Lin |editor5-first=H. |title=Language Models are Few-Shot Learners |url=https://proceedings.neurips.cc/paper/2020/file/1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf |url-status=live |journal=Advances in Neural Information Processing Systems |language=en |publisher=Curran Associates, Inc. |volume=33 |pages=1877–1901 |archive-url=https://web.archive.org/web/20231117204007/https://proceedings.neurips.cc/paper/2020/file/1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf |archive-date=2023-11-17 |access-date=2023-03-14 |last25=Chess |last20=Hesse |first20=Christopher |last21=Chen |first21=Mark |last22=Sigler |first22=Eric |last23=Litwin |first23=Mateusz |last24=Gray |first24=Scott |first26=Jack |first25=Benjamin |last26=Clark |last19=Winter |last27=Berner |first27=Christopher |last28=McCandlish |first28=Sam |last29=Radford |first29=Alec |last30=Sutskever |first30=Ilya |last31=Amodei |first31=Dario |first19=Clemens |first18=Jeffrey |last18=Wu |last16=Ramesh |first16=Aditya |last17=Ziegler |first17=Daniel M.}}</ref> Më i njohuri prej këtyre transformuesve është [[ChatGPT]], një model që mundëson gjenerimin, përmbledhjen dhe interpretimin e tekstit sipas pyetjeve të përdoruesit.<ref>{{Cite web |date=2024-02-23 |title=Modeli i madh gjuhësor |url=https://recnik.medium.edu.mk/termin/modeli-i-madh-gjuhesor/?lang=sq |access-date=2025-03-13 |website=Fjalor për edukim mediatik |publisher=recnik.medium.edu.mk |language=sq}}</ref> Këto modele fitojnë aftësinë e parashikimit të sintaksës dhe semantikës, por i trashëgojnë edhe pasaktësitë dhe [[Paragjykimi|paragjykimet]]<ref>{{cite conference|url=https://2024.eswc-conferences.org/wp-content/uploads/2024/05/77770034.pdf|title=NeOn-GPT: A Large Language Model-Powered Pipeline for Ontology Learning|last1=Fathallah|first1=Nadeen|last2=Das|first2=Arunav|last3=De Giorgis|first3=Stefano|last4=Poltronieri|first4=Andrea|last5=Haase|first5=Peter|last6=Kovriguina|first6=Liubov|date=26 maj 2024|location=Hersonissos, Greqi|conference=Extended Semantic Web Conference 2024|language=en}}</ref> nga të dhënat mbi të cilat janë trajnuar.<ref name="Manning-2022">{{cite journal |last=Manning |first=Christopher D. |year=2022 |title=Human Language Understanding & Reasoning |url=https://www.amacad.org/publication/human-language-understanding-reasoning |url-status=live |journal=Daedalus |language=en |volume=151 |issue=2 |pages=127–138 |doi=10.1162/daed_a_01905 |archive-url=https://web.archive.org/web/20231117205531/https://www.amacad.org/publication/human-language-understanding-reasoning |archive-date=2023-11-17 |access-date=2023-03-09 |doi-access=free |s2cid=248377870}}</ref>

== Historia ==
[[Skeda:Trends_in_AI_training_FLOP_over_time_(2010-2025).svg|parapamje| Llogaritja e trajnimit të modeleve të mëdha të dukshme në FLOP kundrejt datës së publikimit gjatë periudhës 2010-2024. Për modelet e përgjithshme të dukshme (lart majtas), modelet kufitare (lart djathtas), modelet e gjuhës së sipërme (poshtë majtas) dhe modelet kryesore brenda kompanive kryesore (poshtë djathtas). Shumica e këtyre modeleve janë modele gjuhësore.]]
[[Skeda:Large-scale_AI_training_compute_(FLOP)_vs_Publication_date_(2017-2024).svg|parapamje| Llogaritja e trajnimit të modeleve të mëdha të dukshme të AI në FLOP kundrejt datës së publikimit gjatë periudhës 2017-2024. Shumica e modeleve të mëdha janë modele gjuhësore ose modele multimodale me kapacitet gjuhësor.]]
Para vitit 2017, disa modele gjuhësore ishin të konsiderueshme për kohën. Në vitet 1990, IBM prezantoi modelimin statistikor të gjuhës, dhe në vitin 2001, një model i rrafshuar [[Modeli gjuhësor n-gram|''n''-gram]] me 0.3 miliardë fjalë arriti rezultate të larta për atë kohë. Në vitet 2000, studiuesit filluan të trajnojnë modele gjuhësore mbi grupe të mëdha të dhënash nga interneti. Deri në vitin 2009, modelet statistikore të gjuhës dominonin për shkak të aftësisë së tyre për të përpunuar sasi të mëdha të dhënash.<ref>{{Cite journal |last=Halevy |first=Alon |last2=Norvig |first2=Peter |last3=Pereira |first3=Fernando |date=mars 2009 |title=The Unreasonable Effectiveness of Data |url=https://ieeexplore.ieee.org/document/4804817 |journal=IEEE Intelligent Systems |volume=24 |issue=2 |pages=8–12 |doi=10.1109/MIS.2009.36 |issn=1541-1672}}</ref>

Pasi qe rrjetat nervore bëhen dominante në processimin e imazhit rreth 2012,<ref>https://www.mdpi.com/2072-4292/13/22/4712</ref> ato janë aplikuar në modelimin e gjuhës po ashtu. Google e konvertoi shërbimin e tij të përkthimit në Përkthimin e Makinerisë Neurale në 2016. Siç ishte përpara Transformers, ajo u bë nga rrjetet e thella LSTM seq2seq.
[[Skeda:The-Transformer-model-architecture.png|parapamje| Një ilustrim i përbërësve kryesorë të modelit të transformatorit nga letra origjinale, ku shtresat u normalizuan pas (në vend të mëparshëm) vëmendjes me shumë koka]]
Në konferencën NeurIPS 2017, studiuesit e Google prezantuan arkitekturën e transformatorit në punimin e tyre historik "Vëmendja është gjithçka që ju nevojitet". Qëllimi i këtij punimi ishte të përmirësonte teknologjinë Seq2seq të vitit 2014,<ref>{{Cite journal |last=Vaswani |first=Ashish |author-link=Ashish Vaswani |last2=Shazeer |first2=Noam |last3=Parmar |first3=Niki |last4=Uszkoreit |first4=Jakob |last5=Jones |first5=Llion |last6=Gomez |first6=Aidan N |author-link6=Aidan Gomez |last7=Kaiser |first7=Łukasz |last8=Polosukhin |first8=Illia |date=2017 |title=Attention is All you Need |url=https://proceedings.neurips.cc/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf |url-status=live |journal=Advances in Neural Information Processing Systems |publisher=Curran Associates, Inc. |volume=30 |archive-url=https://web.archive.org/web/20240221141113/https://proceedings.neurips.cc/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf |archive-date=2024-02-21 |access-date=2024-01-21}}</ref> dhe bazohej kryesisht në mekanizmin e vëmendjes të zhvilluar nga Bahdanau et al. në 2014.<ref>{{Cite arXiv|last1=Bahdanau|title=Neural Machine Translation by Jointly Learning to Align and Translate}}</ref> Një vit më pas në 2018, BERT u prezantua dhe shpejt u bë "i kudondodhur".<ref>{{Cite journal |last=Rogers |first=Anna |last2=Kovaleva |first2=Olga |last3=Rumshisky |first3=Anna |date=2020 |title=A Primer in BERTology: What We Know About How BERT Works |url=https://aclanthology.org/2020.tacl-1.54 |url-status=live |journal=Transactions of the Association for Computational Linguistics |language=en |volume=8 |pages=842–866 |arxiv=2002.12327 |doi=10.1162/tacl_a_00349 |archive-url=https://web.archive.org/web/20220403103310/https://aclanthology.org/2020.tacl-1.54/ |archive-date=2022-04-03 |access-date=2024-01-21}}</ref> Megjithëse transformatori origjinal ka blloqe kodues dhe dekoder, BERT është një model vetëm për kodues.

Megjithëse GPT-1 u prezantua në vitin 2018, ishte GPT-2 që tërhoqi vëmendje të madhe në 2019 pasi OpenAI vendosi të mos e lëshonte fillimisht për publikun, për shkak të shqetësimeve mbi keqpërdorimin. GPT-3 në 2020 e çoi më tej dhe që nga viti 2024 është i disponueshëm vetëm përmes API-së. ChatGPT, i prezantuar në 2022, fitoi popullaritet të gjerë për përdoruesit e zakonshëm. GPT-4, lëshuar në 2023, vlerësohet për saktësinë e tij dhe aftësitë multimodale, por OpenAI nuk zbuloi detajet e plota të arkitekturës.

Që nga viti 2022, modelet me burim të hapur si BLOOM dhe LLaMA kanë fituar popullaritet, megjithëse kanë disa kufizime në përdorim. Modelet si Mistral AI (Mistral 7B dhe Mixtral 8x7b) përdorin licencën Apache. Që nga qershori 2024, Llama 3 me 70 miliardë parametra, në versionin e tij të akorduar, është LLM më i fuqishëm i hapur, sipas tabelës LMSYS Chatbot Arena, duke tejkaluar GPT-3.5, por mbetet më pak i fuqishëm se GPT-4. 

Që nga viti 2024, modelet më të mëdha dhe më të afta bazohen të gjitha në arkitekturën Transformer. Disa implementime të kohëve të fundit bazohen në arkitektura të tjera, të tilla si variantet e rrjetit nervor të përsëritur dhe Mamba (një model i hapësirës shtetërore ).<ref>{{Cite web |last=Merritt |first=Rick |date=2022-03-25 |title=What Is a Transformer Model? |url=https://blogs.nvidia.com/blog/2022/03/25/what-is-a-transformer-model/ |url-status=live |archive-url=https://web.archive.org/web/20231117203924/https://blogs.nvidia.com/blog/what-is-a-transformer-model/ |archive-date=2023-11-17 |access-date=2023-07-25 |website=NVIDIA Blog}}</ref><ref>{{Citation |last=Gu |first=Albert |title=Mamba: Linear-Time Sequence Modeling with Selective State Spaces |date=2023-12-01 |arxiv=2312.00752 |last2=Dao |first2=Tri}}</ref>

== Parapërpunimi i të dhënave ==

=== Tokenizimi ===
Për shkak se algoritmet e [[Mësimi makinerik|mësimit makinerik]] përpunojnë numra dhe jo tekst, teksti duhet të konvertohet në numra. Në hapin e parë, vendoset një fjalor, më pas indekset e numrave të plotë caktohen në mënyrë arbitrare, por unike për çdo hyrje të fjalorit, dhe së fundi, një përfshirje shoqërohet me indeksin e numrit të plotë. Algoritmet përfshijnë kodimin e çifteve bajt (BPE) dhe WordPiece. Ekzistojnë gjithashtu shenja të veçanta që shërbejnë si karaktere kontrolli, të tilla si <code>[MASK]</code> për shenjën e maskuar (siç përdoret në BERT) dhe <code>[UNK]</code> ("i panjohur") për karakteret që nuk shfaqen në fjalor. Gjithashtu, disa simbole të veçanta përdoren për të treguar formatimin e veçantë të tekstit. Për shembull, "Ġ" tregon një hapësirë të bardhë të mëparshme në RoBERTa dhe GPT. "##" tregon vazhdimin e një fjale të mëparshme në BERT.<ref>{{Citation |last=Kaushal |first=Ayush |title=What do tokens know about their characters and how do they know it? |date=2022-06-06 |arxiv=2206.02608 |last2=Mahowald |first2=Kyle}}</ref>

Për shembull, tokenizuesi BPE i përdorur nga varianti i vjetër i GPT-3 do të zbërthente <small data-darkreader-inline-color="" data-darkreader-inline-bgcolor=""><code>tokenizer: texts -> series of numerical "tokens"</code></small><span data-darkreader-inline-color="" data-darkreader-inline-bgcolor=""> s</span><span data-darkreader-inline-color="" data-darkreader-inline-bgcolor="">i</span>
{| cellpadding="0;" cellspacing="0;" style="border:1px solid black"
| style="border-left: 2px green; border-right: 2px green" |token
| style="background-color: grey; color: white; border-left: 2px green; border-right: 2px green" | izer
| style="border-left: 2px green; border-right: 2px green" | :
| style="background-color: grey; color: white; border-left: 2px green; border-right: 2px green" |&nbsp;texts
| style="border-left: 2px green; border-right: 2px green" |&nbsp;->
| style="background-color: grey; color: white; border-left: 2px green; border-right: 2px green" | series
| style="border-left: 2px green; border-right: 2px green" |&nbsp;of
| style="background-color: grey; color: white; border-left: 2px green; border-right: 2px green" |&nbsp;numerical
| style="border-left: 2px green; border-right: 2px green" |&nbsp;"
| style="background-color: grey; color: white; border-left: 2px green; border-right: 2px green" | t
| style="border-left: 2px green; border-right: 2px green" | ok
| style="background-color: grey; color: white; border-left: 2px green; border-right: 2px green" | ens
| style="border-left: 2px green; border-right: 2px green" | "
|}
Tokenizimi gjithashtu ngjesh grupet e të dhënave. Për shkak se MMGJ-të në përgjithësi kërkojnë që hyrja të jetë një [[Vektori (struktura e të dhënave)|grup]] që nuk është i dehur, tekstet më të shkurtra duhet të "mbushen" derisa të përputhen me gjatësinë e më të gjatit. Sa argumente nevojiten mesatarisht për fjalë varet nga gjuha e grupit të të dhënave.<ref>{{Cite web |last=Yennie Jun |date=2023-05-03 |title=All languages are NOT created (tokenized) equal |url=https://blog.yenniejun.com/p/all-languages-are-not-created-tokenized |url-status=dead |archive-url=https://web.archive.org/web/20230817165705/https://blog.yenniejun.com/p/all-languages-are-not-created-tokenized |archive-date=2023-08-17 |access-date=2023-08-17 |website=Language models cost much more in some languages than others |quote=In other words, to express the same sentiment, some languages require up to 10 times more tokens.}}</ref><ref>{{Cite journal |last=Petrov |first=Aleksandar |last2=Malfa |first2=Emanuele La |last3=Torr |first3=Philip |last4=Bibi |first4=Adel |date=23 qershor 2023 |title=Language Model Tokenizers Introduce Unfairness Between Languages |url=https://openreview.net/forum?id=Pj4YYuxTq9 |url-status=live |journal=NeurIPS |arxiv=2305.15425 |archive-url=https://web.archive.org/web/20231215212906/https://openreview.net/forum?id=Pj4YYuxTq9 |archive-date=15 dhjetor 2023 |access-date=16 shtator 2023 |via=openreview.net}}</ref>

==== BPE ====
{{Kryesor|Anësia algoritmike}}
Si shembull, merrni parasysh një tokenizues të bazuar në kodimin e çiftëve të bajtit. Në fillim, të gjitha karakteret unike, përfshirë boshllëqet dhe shenjat e pikësimit, trajtohen si një grup fillestar uni-gramësh. Çifti më i shpeshtë i karaktereve bashkohet në një bigram dhe të gjitha rastet e tij zëvendësohen. Më pas, çiftet që ndodhin së bashku më shpesh bashkohen përsëri në n-gram më të gjatë, derisa të formohet një fjalor i caktuar. Pasi të trajnohet, shënuesi mund të përdoret për të shënuar tekstin që nuk përmban karaktere të panjohura.<ref name="2022Book_">{{Cite book |last=Paaß |first=Gerhard |title=Foundation Models for Natural Language Processing |last2=Giesselbach |first2=Sven |date=2022 |isbn=9783031231902 |series=Artificial Intelligence: Foundations, Theory, and Algorithms |pages=19–78 |chapter=Pre-trained Language Models |doi=10.1007/978-3-031-23190-2_2 |access-date=3 gusht 2023 |chapter-url=https://link.springer.com/chapter/10.1007/978-3-031-23190-2_2 |archive-url=https://web.archive.org/web/20230803212329/https://link.springer.com/chapter/10.1007/978-3-031-23190-2_2 |archive-date=3 gusht 2023 |url-status=live}}</ref>

==== Problemet ====
Një fjalor simbolik i bazuar në frekuencat e nxjerra nga korpuset kryesisht angleze përdor sa më pak shenja të jetë e mundur për një fjalë mesatare angleze. Megjithatë, një fjalë mesatare në një gjuhë tjetër e koduar nga një tokenizues i tillë i optimizuar nga anglishtja ndahet në një sasi jooptimale të shenjave. Tokenizuesi GPT-2 mund të përdorë deri në 15 herë më shumë shenja për fjalë për disa gjuhë, për shembull për gjuhën Shan nga [[Birmania|Mianmari]]. Edhe gjuhët më të përhapura si portugalishtja dhe gjermanishtja kanë "një premium prej 50%" në krahasim me anglishten.<ref>{{Cite arXiv|last1=Petrov|title=Language Model Tokenizers Introduce Unfairness Between Languages}}</ref>

Tokenizimi i pangopur gjithashtu shkakton probleme delikate me plotësimin e tekstit.<ref>{{Cite web |last=Lundberg |first=Scott |date=2023-12-12 |title=The Art of Prompt Design: Prompt Boundaries and Token Healing |url=https://towardsdatascience.com/the-art-of-prompt-design-prompt-boundaries-and-token-healing-3b2448b0be38 |access-date=2024-08-05 |website=Medium |language=en |archive-date=5 gusht 2024 |archive-url=https://web.archive.org/web/20240805052232/https://towardsdatascience.com/the-art-of-prompt-design-prompt-boundaries-and-token-healing-3b2448b0be38 |url-status=dead }}</ref>

=== Pastrimi i të dhënave ===
{{Listë shënimesh}}
Në kontekstin e trajnimit të MMGJ-ve, grupet e të dhënave zakonisht pastrohen duke hequr pasazhe toksike nga grupi i të dhënave, duke hedhur poshtë të dhënat me cilësi të ulët dhe duke hequr dyfishimin.  Pastrimi i grupeve të të dhënave mund të rrisë efikasitetin e trajnimit dhe të çojë në përmirësimin e performancës në rrjedhën e poshtme.<ref>{{Cite journal |last=Lee |first=Katherine |last2=Ippolito |first2=Daphne |last3=Nystrom |first3=Andrew |last4=Zhang |first4=Chiyuan |last5=Eck |first5=Douglas |last6=Callison-Burch |first6=Chris |last7=Carlini |first7=Nicholas |date=maj 2022 |title=Deduplicating Training Data Makes Language Models Better |url=https://aclanthology.org/2022.acl-long.577.pdf |journal=Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics |volume=1: Long Papers |pages=8424–8445 |doi=10.18653/v1/2022.acl-long.577}}</ref><ref>{{Citation |last=Li |first=Yuanzhi |title=Textbooks Are All You Need II: phi-1.5 technical report |date=2023-09-11 |arxiv=2309.05463 |last2=Bubeck |first2=Sébastien |last3=Eldan |first3=Ronen |last4=Del Giorno |first4=Allie |last5=Gunasekar |first5=Suriya |last6=Lee |first6=Yin Tat}}</ref> Një LLM e trajnuar mund të përdoret për të pastruar grupet e të dhënave për trajnimin e një LLM të mëtejshëm. 

Me rritjen e përqindjes së përmbajtjes së krijuar nga LLM në ueb, pastrimi i të dhënave në të ardhmen mund të përfshijë filtrimin e përmbajtjes së tillë. Përmbajtja e gjeneruar nga LLM mund të përbëjë problem nëse përmbajtja është e ngjashme me tekstin njerëzor (duke e bërë të vështirë filtrimin) por me cilësi më të ulët (performancë degraduese e modeleve të trajnuar në të). 

=== Të dhëna sintetike ===
Trajnimi i modeleve më të mëdha gjuhësore mund të ketë nevojë për më shumë të dhëna gjuhësore sesa të disponueshme natyrshëm, ose që të dhënat e natyrshme të jenë të cilësisë së pamjaftueshme. Në këto raste, mund të përdoren të dhëna sintetike. Seria [[Phi (LLM)|Phi]] e Microsoft-it e MMGJ-ve është trajnuar mbi të dhëna të ngjashme me tekstet shkollore të krijuara nga një LLM tjetër.<ref>{{Cite arXiv|last1=Abdin|title=Phi-3 Technical Report: A Highly Capable Language Model Locally on Your Phone}}</ref>

== Trajnimi dhe arkitektura ==

=== Të mësuarit përforcues nga reagimet njerëzore (RLHF) ===
Të mësuarit përforcues nga reagimet njerëzore (RLHF) përmes algoritmeve, të tilla si optimizimi i politikave proksimale, përdoret për të rregulluar më tej një model të bazuar në një grup të dhënash të preferencave njerëzore. 

=== Akordimi i udhëzimeve ===
Duke përdorur qasjet "vetë-udhëzuese", MMGJ-të kanë qenë në gjendje të nisin përgjigjet e sakta, duke zëvendësuar çdo përgjigje naive, duke filluar nga korrigjimet e krijuara nga njeriu në disa raste. Për shembull, në udhëzimin "Shkruani një ese për temat kryesore të përfaqësuara në ''Hamlet'' ", një përfundim fillestar naiv mund të jetë "Nëse e dorëzoni esenë pas datës 17 mars, nota juaj do të reduktohet me 10% për çdo ditë vonesë." bazuar në shpeshtësinë e kësaj sekuence tekstuale në korpus. 

=== Përzierje ekspertësh ===
MMGJ-ja më e madhe mund të jetë shumë e shtrenjtë për t'u trajnuar dhe përdorur drejtpërdrejt. Për modele të tilla, mund të aplikohet përzierja e ekspertëve (MM), një linjë kërkimesh e ndjekur nga studiuesit e Google që nga viti 2017 për të trajnuar modele që arrijnë deri në 1 trilion parametra.<ref name="HGZCJ">{{Cite arXiv|eprint=1701.06538|last1=Shazeer|title=Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer}}</ref><ref name="R9Qq5">{{Cite arXiv|eprint=2006.16668|last1=Lepikhin|title=GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding}}</ref> 

=== Inxhinieri e shpejtë, mekanizmi i vëmendjes dhe dritarja e kontekstit ===
Shumica e rezultateve të arritura më parë vetëm me rregullim të imët (të kushtueshëm), mund të arrihen përmes inxhinierisë së shpejtë, megjithëse të kufizuara në shtrirjen e një bisede të vetme (më saktë, të kufizuar në fushëveprimin e një dritareje konteksti).<ref name="emergentpaper">{{Cite journal |last=Wei |first=Jason |last2=Tay |first2=Yi |last3=Bommasani |first3=Rishi |last4=Raffel |first4=Colin |last5=Zoph |first5=Barret |last6=Borgeaud |first6=Sebastian |last7=Yogatama |first7=Dani |last8=Bosma |first8=Maarten |last9=Zhou |first9=Denny |last10=Metzler |first10=Donald |last11=Chi |first11=Ed H. |last12=Hashimoto |first12=Tatsunori |last13=Vinyals |first13=Oriol |last14=Liang |first14=Percy |last15=Dean |first15=Jeff |date=31 gusht 2022 |title=Emergent Abilities of Large Language Models |url=https://openreview.net/forum?id=yzkSU5zdwD |url-status=live |journal=Transactions on Machine Learning Research |issn=2835-8856 |archive-url=https://web.archive.org/web/20230322210052/https://openreview.net/forum?id=yzkSU5zdwD |archive-date=22 mars 2023 |access-date=19 mars 2023}}</ref>
[[Skeda:Multiple_attention_heads.png|parapamje| Kur secila kokë llogarit, sipas kritereve të veta, sa shenja të tjera janë të rëndësishme për shenjën "it_", vini re se koka e dytë e vëmendjes, e përfaqësuar nga kolona e dytë, fokusohet më së shumti në dy rreshtat e parë, dmth. The" dhe "kafshë", ndërsa kolona e tretë fokusohet më së shumti në dy rreshtat e poshtëm, dmth në "i lodhur", i cili është shënjuar në dy shenja.<ref name="Jay_Allamar">{{Cite web |last=Allamar |first=Jay |title=Illustrated transformer |url=https://jalammar.github.io/illustrated-transformer/ |url-status=live |archive-url=https://web.archive.org/web/20230725230033/http://jalammar.github.io/illustrated-transformer/ |archive-date=2023-07-25 |access-date=2023-07-29}}</ref>]]
Për të identifikuar rëndësinë e shenjave brenda fushëveprimit të dritares së kontekstit, mekanizmi i vëmendjes llogarit peshat "të buta" për çdo shenjë, duke përdorur disa koka të vëmendjes, secila me "relevancën" e saj për të llogaritur peshat. Për shembull, modeli i vogël GPT-2 (117M parametra) kishte dymbëdhjetë koka vëmendjeje dhe një dritare konteksti me 1,000 shenja. Versioni mesatar i tij kishte 345 milion parametra dhe 24 shtresa, gjithashtu me 12 koka vëmendjeje. Trajnimi përdorte një grup prej 512.<ref name="2022Book_"/>

Modelet më të mëdha, si Gemini 1.5 i Google, i prezantuar në shkurt 2024, mund të kenë një dritare konteksti deri në 1 milion shenja (madje është testuar një dritare prej 10 milionësh). Modele të tjera me dritare të gjera konteksti përfshijnë Claude 2.1 nga Anthropic, që mbështet deri në 200,000 shenja. Është e rëndësishme të theksohet se ky maksimum i referohet shenjave hyrëse, ndërsa numri maksimal i shenjave të daljes është shpesh më i vogël, si në rastin e GPT-4 Turbo me 4,096 shenja dalëse. 

Kohëzgjatja e një bisede që modeli merr parasysh për të gjeneruar përgjigjen e tij të radhës është e kufizuar nga madhësia e dritares së kontekstit. Nëse biseda është më e gjatë se dritarja e kontekstit, vetëm pjesët brenda saj do të merren parasysh gjatë gjenerimit të përgjigjes. Alternativisht, modeli mund të përdorë një algoritëm për të përmbledhur pjesët më të largëta të bisedës për të përfshirë informacionin relevant.

Mangësitë e zgjerimit të dritares së kontekstit përfshijnë kosto më të lartë llogaritëse dhe një ndoshta zvogëlim të fokusit në kontekstin lokal. Nga ana tjetër, zvogëlimi i saj mund të çojë në humbjen e varësive të rëndësishme me rreze të gjatë. Balancimi i këtyre aspekteve është një çështje eksperimentimi dhe kërkon konsiderata specifike për domenin.

Një model mund të trajnohet paraprakisht ose për të parashikuar se si segmenti vazhdon, ose çfarë mungon në segment, duke pasur parasysh një segment nga grupi i të dhënave të tij të trajnimit.<ref name="ioUpE">{{Cite book |last=Zaib |first=Munazza |title=Proceedings of the Australasian Computer Science Week Multiconference |last2=Sheng |first2=Quan Z. |last3=Emma Zhang |first3=Wei |date=4 shkurt 2020 |isbn=9781450376976 |pages=1–4 |chapter=A Short Survey of Pre-trained Language Models for Conversational AI-A New Age in NLP |doi=10.1145/3373017.3373028 |chapter-url=https://www.researchgate.net/publication/338931711}}</ref> Mund të jetë ose

* autoregresiv (dmth. parashikimi se si vazhdon segmenti, mënyra se si e bëjnë GPT-të): për shembull duke pasur parasysh një segment "Më pëlqen të ha", modeli parashikon "supë gjeli" ose "sushi".
* " i maskuar " (dmth. plotësimi i pjesëve që mungojnë nga segmenti, siç e bën "BERT" <ref name="jm">{{Cite book |last=Jurafsky |first=Dan |url=https://web.stanford.edu/~jurafsky/slp3/ed3book_jan72023.pdf |title=Speech and Language Processing |last2=Martin |first2=James H. |date=7 janar 2023 |edition=3rd edition draft |access-date=24 maj 2022 |archive-url=https://web.archive.org/web/20230323210221/https://web.stanford.edu/~jurafsky/slp3/ed3book_jan72023.pdf |archive-date=23 mars 2023 |url-status=live}}</ref> ): për shembull, duke pasur parasysh një segment "Më pëlqen të <code>[__] [__]</code> gjeli", modeli parashikon se "ha" dhe "supë" mungojnë.

Modelet mund të trajnohen për detyra ndihmëse që testojnë të kuptuarit e tyre për shpërndarjen e të dhënave, siç është Parashikimi i Fjalive Tjera (NSP), ku çifte fjalish paraqiten dhe modeli duhet të parashikojë nëse ato shfaqen në mënyrë të njëpasnjëshme në korpusin e trajnimit. Gjatë stërvitjes, humbja e rregullimit përdoret për të stabilizuar procesin, por zakonisht nuk aplikohet gjatë testimit dhe vlerësimit.

=== Infrastruktura ===
Infrastruktura e konsiderueshme është e nevojshme për trajnimin e modeleve më të mëdha.<ref>{{Cite web |title=From bare metal to a 70B model: infrastructure set-up and scripts |url=https://imbue.com/research/70b-infrastructure/ |url-status=live |archive-url=https://web.archive.org/web/20240726203419/https://imbue.com/research/70b-infrastructure/ |archive-date=2024-07-26 |access-date=2024-07-24 |website=imbue.com |language=en-US}}</ref><ref>{{Cite web |title=metaseq/projects/OPT/chronicles at main · facebookresearch/metaseq |url=https://github.com/facebookresearch/metaseq/tree/main/projects/OPT/chronicles |url-status=live |archive-url=https://web.archive.org/web/20240124035658/https://github.com/facebookresearch/metaseq/tree/main/projects/OPT/chronicles |archive-date=2024-01-24 |access-date=2024-07-24 |website=GitHub |language=en}}</ref><ref>{{Cite web |last=Albrecht |first=Josh |date=2024-07-23 |title=State of the Art: Training >70B LLMs on 10,000 H100 clusters |url=https://www.latent.space/p/llm-training-2024 |access-date=2024-07-24 |website=www.latent.space |language=en}}</ref>

== Kostoja e trajnimit ==
Përparimet në softuer dhe harduer kanë ulur ndjeshëm koston që nga viti 2020, kështu që në vitin 2023 trajnimi i një kosto llogaritëse LLM me 12 miliardë parametra është 72,300 orë A100-GPU, ndërsa në vitin 2020 kostoja e trajnimit të një LLM me 1.5 miliardë parametra. (e cila ishte dy rend magnitudë më e vogël se gjendja e artit në 2020) ishte midis 80 mijë dhe 1.6 milion dollarë.<ref name="Wiggers">{{Cite web |last=Wiggers |first=Kyle |date=28 prill 2022 |title=The emerging types of language models and why they matter |url=https://techcrunch.com/2022/04/28/the-emerging-types-of-language-models-and-why-they-matter/ |url-status=live |archive-url=https://web.archive.org/web/20230316072443/https://techcrunch.com/2022/04/28/the-emerging-types-of-language-models-and-why-they-matter/ |archive-date=16 mars 2023 |access-date=9 mars 2023 |website=TechCrunch}}</ref>   Që nga viti 2020, shuma të mëdha janë investuar në modele gjithnjë e më të mëdha. Për shembull, trajnimi i GPT-2 (dmth një model me 1.5 miliardë parametra) në 2019 kushtoi 50,000 dollarë, ndërsa trajnimi i PaLM (dmth një model me 540 miliardë parametra) në 2022 kushtoi 8 milion dollarë, dhe Megatron-Turing NLG. 530 B (në 2021) kushtoi rreth 11 milion dollarë.<ref>{{Citation |last=Maslej |first=Nestor |title=Artificial Intelligence Index Report 2023 |date=2023-10-05 |arxiv=2310.03715 |last2=Fattorini |first2=Loredana |last3=Brynjolfsson |first3=Erik |last4=Etchemendy |first4=John |last5=Ligett |first5=Katrina |last6=Lyons |first6=Terah |last7=Manyika |first7=James |last8=Ngo |first8=Helen |last9=Niebles |first9=Juan Carlos}}</ref>

Për LLM të bazuar në Transformer, kostoja e trajnimit është shumë më e lartë se kostoja e konkluzionit. Kushton 6 FLOP për parametër për të trajnuar në një shenjë, ndërsa kushton 1 deri në 2 FLOP për parametër për të konkluduar në një shenjë.<ref name="kaplan-scaling">Section 2.1 and Table 1,

{{Cite arXiv|last1=Kaplan|title=Scaling Laws for Neural Language Models}}</ref>

== Përdorimi i mjetit ==
Ka disa detyra që, në parim, nuk mund të zgjidhen nga asnjë LLM, të paktën jo pa përdorimin e mjeteve të jashtme ose softuerit shtesë. Një shembull i një detyre të tillë është përgjigjja ndaj hyrjes së përdoruesit '354 * 139 = ', me kusht që LLM të mos ketë hasur tashmë në një vazhdimësi të kësaj llogaritjeje në korpusin e saj të trajnimit.{{Dyshimtë}} Në raste të tilla, LLM duhet të përdorë kodin e programit të ekzekutimit që llogarit rezultatin, i cili më pas mund të përfshihet në përgjigjen e tij.{{Dyshimtë}}: Një shembull tjetër është 'Sa është ora tani? Është ', ku një përkthyes i veçantë programi do të duhet të ekzekutojë një kod për të marrë kohën e sistemit në kompjuter, kështu që LLM mund ta përfshijë atë në përgjigjen e tij.  <ref name="J5OW5">{{Cite web |title=PAL: Program-aided Language Models |url=https://reasonwithpal.com/ |url-status=live |archive-url=https://web.archive.org/web/20230612162208/https://reasonwithpal.com/ |archive-date=2023-06-12 |access-date=2023-06-12 |website=reasonwithpal.com}}</ref> Kjo strategji bazë mund të jetë e sofistikuar me përpjekje të shumta të programeve të krijuara, dhe strategji të tjera kampionimi. 

Në përgjithësi, në mënyrë që një LLM të përdorë mjete, duhet ta rregulloni atë për përdorim të veglave. Nëse numri i mjeteve është i kufizuar, atëherë rregullimi mund të bëhet vetëm një herë. Nëse numri i mjeteve mund të rritet në mënyrë arbitrare, si me shërbimet [[Interfejsi për programimin e aplikacioneve|API]] në internet, atëherë LLM mund të rregullohet mirë për të qenë në gjendje të lexojë dokumentacionin API dhe të thërrasë saktë API.<ref name="lLrda">{{Cite arXiv|last1=Liang|title=TaskMatrix.AI: Completing Tasks by Connecting Foundation Models with Millions of APIs}}</ref><ref name="4Xzrs">{{Cite arXiv|last1=Patil|title=Gorilla: Large Language Model Connected with Massive APIs}}</ref>

Një formë më e thjeshtë e përdorimit të mjetit është gjenerimi i shtuar me rikthim : shtimi i një LLM me rikthim dokumenti. Duke pasur parasysh një pyetje, një rifitues dokumenti thirret për të marrë dokumentet më të rëndësishme. Kjo zakonisht bëhet duke koduar pyetjen dhe dokumentet në vektorë, pastaj duke gjetur dokumentet me vektorë (zakonisht të ruajtura në një bazë të dhënash vektoriale) më të ngjashme me vektorin e pyetjes. LLM më pas gjeneron një dalje bazuar në pyetjen dhe kontekstin e përfshirë nga dokumentet e marra.<ref name="BUZBP">{{Cite journal |last=Lewis |first=Patrick |last2=Perez |first2=Ethan |last3=Piktus |first3=Aleksandra |last4=Petroni |first4=Fabio |last5=Karpukhin |first5=Vladimir |last6=Goyal |first6=Naman |last7=Küttler |first7=Heinrich |last8=Lewis |first8=Mike |last9=Yih |first9=Wen-tau |last10=Rocktäschel |first10=Tim |last11=Riedel |first11=Sebastian |last12=Kiela |first12=Douwe |date=2020 |title=Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks |url=https://proceedings.neurips.cc/paper/2020/hash/6b493230205f780e1bc26945df7481e5-Abstract.html |url-status=live |journal=Advances in Neural Information Processing Systems |publisher=Curran Associates, Inc. |volume=33 |pages=9459–9474 |arxiv=2005.11401 |archive-url=https://web.archive.org/web/20230612171229/https://proceedings.neurips.cc/paper/2020/hash/6b493230205f780e1bc26945df7481e5-Abstract.html |archive-date=2023-06-12 |access-date=2023-06-12}}</ref>

== Agjencia ==
Një LLM është një model gjuhësor, i cili nuk është një agjent pasi nuk ka qëllim, por mund të përdoret si një komponent i një [[agjenti inteligjent]].<ref name="CFuti">{{Cite journal |last=Huang |first=Wenlong |last2=Abbeel |first2=Pieter |last3=Pathak |first3=Deepak |last4=Mordatch |first4=Igor |date=2022-06-28 |title=Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents |url=https://proceedings.mlr.press/v162/huang22a.html |journal=Proceedings of the 39th International Conference on Machine Learning |publisher=PMLR |pages=9118–9147 |arxiv=2201.07207}}</ref> Studiuesit kanë përshkruar disa metoda për integrime të tilla.{{Citim i duhur}}

[[ReAct pattern|Modeli ReAct]], një portmanto i "Arsyeja&nbsp;+&nbsp;Act", ndërton një [[Agjenti inteligjent|agjent]] nga një LLM, duke përdorur LLM si një planifikues. MMGJ-së i kërkohet të "mendojë me zë të lartë". Në mënyrë të veçantë, modeli gjuhësor nxitet me një përshkrim tekstual të mjedisit, një qëllim, një listë të veprimeve të mundshme dhe një regjistrim të veprimeve dhe vëzhgimeve të deritanishme. Ai gjeneron një ose më shumë mendime përpara se të gjenerojë një veprim, i cili më pas ekzekutohet në mjedis.<ref name="DmvNE">{{Cite arXiv|title=ReAct: Synergizing Reasoning and Acting in Language Models}}</ref> Përshkrimi gjuhësor i mjedisit që i jepet planifikuesit LLM mund të jetë edhe kodi LaTeX i një punimi që përshkruan mjedisin.<ref name="JS8Vd">{{Cite arXiv|title=SPRING: GPT-4 Out-performs RL Algorithms by Studying Papers and Reasoning}}</ref>

Në metodën DEPS ("Përshkruani, Shpjegoni, Planifikoni dhe Zgjidh"), një LLM fillimisht lidhet me botën vizuale nëpërmjet përshkrimeve të imazheve, pastaj nxitet të prodhojë plane për detyra dhe sjellje komplekse bazuar në njohuritë e tij të paratrajnuara dhe reagimet mjedisore. merr. 

Metoda Reflexion  ndërton një agjent që mëson mbi episode të shumta. Në fund të çdo episodi, MMGJ-së i jepet regjistrimi i episodit dhe nxitet të mendojë "mësimet e nxjerra", të cilat do ta ndihmonin atë të performonte më mirë në një episod pasues. Këto "mësime të nxjerra" i jepen agjentit në episodet e mëvonshme.{{Citim i duhur}}

Kërkimi i pemës në Monte Carlo mund të përdorë një LLM si heuristikë të paraqitjes. Kur një model bote programatik nuk është i disponueshëm, një LLM gjithashtu mund të nxitet me një përshkrim të mjedisit për të vepruar si model botëror.<ref name="ltTer">{{Cite arXiv|last1=Hao|title=Reasoning with Language Model is Planning with World Model}}</ref>

Për eksplorim të hapur, një LLM mund të përdoret për të shënuar vëzhgime për "interesantitetin" e tyre, i cili mund të përdoret si një sinjal shpërblimi për të udhëhequr një agjent mësimor përforcues normal (jo-LLM).<ref name="mBvD9">{{Cite arXiv|title=OMNI: Open-endedness via Models of human Notions of Interestingness}}</ref> Përndryshe, ai mund të propozojë detyra gjithnjë e më të vështira për mësimin e kurrikulës.<ref name=":0">{{Cite web |title=Voyager {{!}} An Open-Ended Embodied Agent with Large Language Models |url=https://voyager.minedojo.org/ |url-status=live |archive-url=https://web.archive.org/web/20230608225054/https://voyager.minedojo.org/ |archive-date=2023-06-08 |access-date=2023-06-09 |website=voyager.minedojo.org}}</ref> Në vend të nxjerrjes së veprimeve individuale, një planifikues LLM mund të ndërtojë gjithashtu "aftësi" ose funksione për sekuenca komplekse veprimesh. Aftësitë mund të ruhen dhe të përdoren më vonë, duke lejuar rritjen e niveleve të abstraksionit në planifikim.<ref name=":0" />

Agjentët e fuqizuar nga LLM mund të mbajnë një memorie afatgjatë të konteksteve të tij të mëparshme dhe kujtesa mund të merret në të njëjtën mënyrë si Retrieval Augmented Generation. Shumë agjentë të tillë mund të ndërveprojnë shoqërisht. 

== Kompresimi ==
Në mënyrë tipike, MMGJ-të trajnohen me numra me pikë lundruese me një ose gjysmë saktësi (float32 dhe float16). Një float16 ka 16 bit, ose 2 bajt, dhe kështu një miliard parametra kërkojnë 2 gigabajt. Modelet më të mëdha zakonisht kanë 100 miliardë parametra, që kërkojnë 200 gigabajt për t'u ngarkuar, gjë që i vendos ato jashtë gamës së shumicës së pajisjeve elektronike të konsumit.<ref>{{Cite web |last=Mann |first=Tobias |title=How to run an LLM locally on your PC in less than 10 minutes |url=https://www.theregister.com/2024/03/17/ai_pc_local_llm/ |access-date=2024-05-17 |website=www.theregister.com}}</ref>

''Kuantizimi pas trajnimit'' <ref name="LS2Go">{{Cite journal |last=Nagel |first=Markus |last2=Amjad |first2=Rana Ali |last3=Baalen |first3=Mart Van |last4=Louizos |first4=Christos |last5=Blankevoort |first5=Tijmen |date=2020-11-21 |title=Up or Down? Adaptive Rounding for Post-Training Quantization |url=https://proceedings.mlr.press/v119/nagel20a.html |url-status=live |journal=Proceedings of the 37th International Conference on Machine Learning |publisher=PMLR |pages=7197–7206 |archive-url=https://web.archive.org/web/20230614080854/https://proceedings.mlr.press/v119/nagel20a.html |archive-date=2023-06-14 |access-date=2023-06-14}}</ref> synon të ulë kërkesën për hapësirë duke ulur saktësinë e parametrave të një modeli të trajnuar, duke ruajtur pjesën më të madhe të performancës së tij.   Forma më e thjeshtë e kuantizimit thjesht i shkurton të gjithë numrat në një numër të caktuar bitësh. Mund të përmirësohet duke përdorur një libër kodi të ndryshëm kuantizimi për shtresë. Përmirësimi i mëtejshëm mund të bëhet duke aplikuar saktësi të ndryshme për parametra të ndryshëm, me saktësi më të lartë për parametra veçanërisht të rëndësishëm ("pesha të jashtme").  Shih <ref>{{Cite web |last=Grootendorst |first=Maarten |title=A Visual Guide to Quantization |url=https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-quantization |archive-url=https://web.archive.org/web/20240731003355/https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-quantization |archive-date=31 korr 2024 |access-date=2024-07-31 |website=newsletter.maartengrootendorst.com |language=en}}</ref> për një udhëzues vizual.

Ndërsa modelet e kuantizuara zakonisht janë të ngrira, dhe vetëm modelet e para-kuantizuara rregullohen mirë, modelet e kuantizuara mund të akordohen ende.<ref name="D0nFA">{{Cite arXiv|last1=Dettmers|title=QLoRA: Efficient Finetuning of Quantized LLMs}}</ref>

== Multimodaliteti ==
Multimodaliteti do të thotë "të kesh disa modalitete" dhe një "modalitet" i referohet një lloji të hyrjes ose daljes, të tilla si video, imazh, audio, tekst, proprioceptim, etj.<ref>{{Cite journal |last=Kiros |first=Ryan |last2=Salakhutdinov |first2=Ruslan |last3=Zemel |first3=Rich |date=2014-06-18 |title=Multimodal Neural Language Models |url=https://proceedings.mlr.press/v32/kiros14.html |url-status=live |journal=Proceedings of the 31st International Conference on Machine Learning |publisher=PMLR |pages=595–603 |archive-url=https://web.archive.org/web/20230702195952/https://proceedings.mlr.press/v32/kiros14.html |archive-date=2023-07-02 |access-date=2023-07-02}}</ref> Ka pasur shumë modele të AI të trajnuar posaçërisht për të gëlltitur një modalitet dhe nxirrni një modalitet tjetër, të tilla si AlexNet për etiketimin e imazhit,<ref>{{Cite journal |last=Krizhevsky |first=Alex |last2=Sutskever |first2=Ilya |last3=Hinton |first3=Geoffrey E |date=2012 |title=ImageNet Classification with Deep Convolutional Neural Networks |url=https://proceedings.neurips.cc/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html |url-status=live |journal=Advances in Neural Information Processing Systems |publisher=Curran Associates, Inc. |volume=25 |archive-url=https://web.archive.org/web/20230702195952/https://proceedings.neurips.cc/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html |archive-date=2023-07-02 |access-date=2023-07-02}}</ref> përgjigjen e pyetjes vizuale për tekstin nga imazhi në tekst,<ref>{{Cite journal |last=Antol |first=Stanislaw |last2=Agrawal |first2=Aishwarya |last3=Lu |first3=Jiasen |last4=Mitchell |first4=Margaret |last5=Batra |first5=Dhruv |last6=Zitnick |first6=C. Lawrence |last7=Parikh |first7=Devi |date=2015 |title=VQA: Visual Question Answering |url=https://openaccess.thecvf.com/content_iccv_2015/html/Antol_VQA_Visual_Question_ICCV_2015_paper.html |url-status=live |journal=ICCV |pages=2425–2433 |archive-url=https://web.archive.org/web/20230702195952/https://openaccess.thecvf.com/content_iccv_2015/html/Antol_VQA_Visual_Question_ICCV_2015_paper.html |archive-date=2023-07-02 |access-date=2023-07-02}}</ref> dhe njohja e të folurit nga fjalimi në tekst.

Një metodë e zakonshme për të krijuar modele multimodale nga një LLM është "tokenizimi" i prodhimit nga një kodues i trajnuar. Kjo përfshin përdorimin e një LLM dhe një kodues imazhi të trajnuar. Një perceptron me shumë shtresa krijohet në mënyrë që vektori i pas-përpunuar të ketë dimensione të ngjashme me një token të koduar. Kjo krijon "shenjat e imazhit", të cilat mund të ndërlidhen me shenjat e tekstit. Më pas, modeli rregullohet mirë në një grup të dhënash me tekst dhe imazhe, duke përmirësuar stabilitetin e koduesit të imazhit.<ref>{{Cite arXiv|last1=Li|title=BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models}}</ref>

Flamingo demonstroi efektivitetin e metodës së tokenizimit, duke rregulluar një palë modele gjuhësore të paratrajnuara dhe kodues imazhi për të performuar më mirë në përgjigjen vizuale të pyetjeve sesa modelet e trajnuara nga e para.<ref>{{Cite journal |last=Alayrac |first=Jean-Baptiste |last2=Donahue |first2=Jeff |last3=Luc |first3=Pauline |last4=Miech |first4=Antoine |last5=Barr |first5=Iain |last6=Hasson |first6=Yana |last7=Lenc |first7=Karel |last8=Mensch |first8=Arthur |last9=Millican |first9=Katherine |last10=Reynolds |first10=Malcolm |last11=Ring |first11=Roman |last12=Rutherford |first12=Eliza |last13=Cabi |first13=Serkan |last14=Han |first14=Tengda |last15=Gong |first15=Zhitao |date=2022-12-06 |title=Flamingo: a Visual Language Model for Few-Shot Learning |url=https://proceedings.neurips.cc/paper_files/paper/2022/hash/960a172bc7fbf0177ccccbb411a7d800-Abstract-Conference.html |url-status=live |journal=Advances in Neural Information Processing Systems |volume=35 |pages=23716–23736 |arxiv=2204.14198 |archive-url=https://web.archive.org/web/20230702195951/https://proceedings.neurips.cc/paper_files/paper/2022/hash/960a172bc7fbf0177ccccbb411a7d800-Abstract-Conference.html |archive-date=2023-07-02 |access-date=2023-07-02}}</ref> Modeli Google PaLM u akordua mirë në një model multimodal PaLM-E duke përdorur metodën e tokenizimit dhe u aplikua në kontrollin robotik.<ref>{{Cite arXiv|last1=Driess|title=PaLM-E: An Embodied Multimodal Language Model}}</ref> Modelet LLaMA janë kthyer gjithashtu multimodale duke përdorur metodën e tokenizimit, për të lejuar hyrjet e imazhit,<ref>{{Cite arXiv|last1=Liu|title=Visual Instruction Tuning}}</ref> dhe hyrjet video.<ref>{{Cite arXiv|last1=Zhang|title=Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding}}</ref>

GPT-4 mund të përdorë tekstin dhe imazhin si hyrje  (megjithëse komponenti i vizionit nuk u lëshua për publikun deri në GPT-4V <ref>{{Cite web |last=OpenAI |date=25 shtator 2023 |title=GPT-4V(ision) System Card |url=https://cdn.openai.com/papers/GPTV_System_Card.pdf}}</ref> ); Gemini i Google DeepMind është gjithashtu multimodal.<ref>{{Citation |last=Pichai |first=Sundar |title=Google Keynote (Google I/O '23) |date=10 maj 2023 |url=https://www.youtube.com/watch?v=cNfINi5CNbY&t=931s |at=timestamp 15:31 |access-date=2023-07-02}}</ref> Mistral prezantoi modelin e vet multimodel Pixtral 12B në shtator 2024.<ref>{{Cite web |last=Wiggers |first=Kyle |date=11 shtator 2024 |title=Mistral releases Pixtral 12B, its first multimodal model |url=https://techcrunch.com/2024/09/11/mistral-releases-pixtral-its-first-multimodal-model/?utm_medium=aisecret.us&utm_source=aisecret.us&utm_campaign=aisecret.us |access-date=14 shtator 2024 |website=TechCrunch}}</ref>

== Vetitë ==

=== Ligjet e shkallëzimit ===
Katër hiper-parametrat e mëposhtëm karakterizojnë një LLM:

* <small><math>C</math></small> është kostoja e trajnimit të modelit, në FLOP .
* <small><math>N</math></small> është numri i parametrave në model.
* <small><math>D</math></small> është numri i argumenteve në grupin e trajnimit.
* <small><math>L</math></small> është humbja mesatare negative e gjasave të log-it për shenjë (nats /token), e arritur nga LLM e trajnuar në grupin e të dhënave të testit.

Ato lidhen me ligje të thjeshta statistikore, të quajtura "ligjet e shkallëzimit". Një ligj i veçantë i shkallëzimit (" Shkallëzimi Chinchilla ") për LLM të trajnuar në mënyrë autoregresive për një epokë, me një orar të normës së të mësuarit log-log, thotë se: <ref name="fJta3">{{Cite arXiv|last1=Hoffmann|title=Training Compute-Optimal Large Language Models}}</ref> <math display="block">\begin{cases}
C = C_0 ND \\[6pt]
L = \frac{A}{N^\alpha} + \frac{B}{D^\beta} + L_0
\end{cases}</math> ku janë variablat

* <small><math> C_0 = 6</math></small>, që do të thotë se kushton 6 FLOP për parametër për t'u trajnuar në një shenjë. Vini re se kostoja e trajnimit është shumë më e lartë se kostoja e konkluzionit, ku kushton 1 deri në 2 FLOP për parametër për të konkluduar në një shenjë. 
* <small><math>\alpha = 0.34, \beta = 0.28, A = 406.4, B = 410.7, L_0 = 1.69</math></small>

=== Aftësitë emergjente ===
[[Skeda:LLM_emergent_benchmarks.png|parapamje| Në pikë(at) të referuara si ndërprerje,<ref name="IYm4Q">{{Cite arXiv|last1=Caballero|title=Broken Neural Scaling Laws}}</ref> vijat ndryshojnë pjerrësinë e tyre, duke u shfaqur në një grafik linear-log si një seri segmentesh lineare të lidhura me harqe.]]
Performanca e modeleve më të mëdha në detyra të ndryshme, kur vizatohet në shkallë log-log, shfaqet si një ekstrapolim linear nga performanca e modeleve më të vogla. Megjithatë, ky linearitet mund të shënohet nga "ndërprerjet" në ligjin e shkallëzimit, ku pjerrësia e linjës ndryshon papritur dhe ku modelet më të mëdha fitojnë "aftësi emergjente". Këto aftësi lindin nga ndërveprimi kompleks i komponentëve të modelit dhe nuk janë të dizajnuara apo të programura në mënyrë eksplicite.

Gjëja më intriguese midis aftësive emergjente është të mësuarit në kontekst nga demonstrimet e shembujve. Të mësuarit në kontekst përfshihet në detyra, të tilla si:

* aritmetika e raportuar, deshifrimi i [[Alfabeti Fonetik Ndërkombëtar|alfabetit fonetik ndërkombëtar]], zbërthimi i shkronjave të një fjale, zbërthimi i fjalës në kontekst,<ref name="emergentpaper"/><ref name="57FEA">{{Cite journal |last=Pilehvar |first=Mohammad Taher |last2=Camacho-Collados |first2=Jose |date=qershor 2019 |title=Proceedings of the 2019 Conference of the North |url=https://aclanthology.org/N19-1128 |url-status=live |journal=Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers) |location=Minneapolis, Minnesota |publisher=Association for Computational Linguistics |pages=1267–1273 |doi=10.18653/v1/N19-1128 |archive-url=https://web.archive.org/web/20230627202732/https://aclanthology.org/N19-1128/ |archive-date=2023-06-27 |access-date=2023-06-27}}</ref><ref name="TEIkA">{{Cite web |title=WiC: The Word-in-Context Dataset |url=https://pilehvar.github.io/wic/ |url-status=live |archive-url=https://web.archive.org/web/20230627202725/https://pilehvar.github.io/wic/ |archive-date=2023-06-27 |access-date=2023-06-27 |website=pilehvar.github.io}}</ref> konvertimi i fjalëve hapësinore, [[Anët e horizontit|drejtimet kryesore]] (për shembull, përgjigjja "verilindore" në [0, 0, 1; 0, 0, 0; 0, 0, 0]), termat me ngjyra të paraqitura në tekst.<ref name="zgy1i">{{Cite journal |last=Patel |first=Roma |last2=Pavlick |first2=Ellie |date=2021-10-06 |title=Mapping Language Models to Grounded Conceptual Spaces |url=https://openreview.net/forum?id=gJcEM8sxHK |url-status=live |journal=ICLR |archive-url=https://web.archive.org/web/20230624191940/https://openreview.net/forum?id=gJcEM8sxHK |archive-date=2023-06-24 |access-date=2023-06-27}}</ref>
* nxitja e zinxhirit të mendimit : Rezultatet e modelit përmirësohen nga nxitja e zinxhirit të mendimit vetëm kur madhësia e modelit kalon 62 B. Modelet më të vogla performojnë më mirë kur nxiten të përgjigjen menjëherë, pa zinxhir mendimi.<ref name="Imb98">''[https://www.notion.so/A-Closer-Look-at-Large-Language-Models-Emergent-Abilities-493876b55df5479d80686f68a1abd72f A Closer Look at Large Language Models Emergent Abilities]''  (Yao Fu, Nov 20, 2022)</ref>
* identifikimi i përmbajtjes fyese në paragrafët e Hinglishit (një kombinim i hindishtes dhe anglishtes) dhe gjenerimi i një ekuivalenti të ngjashëm në anglisht të fjalëve të urta [[Gjuha suahile|kisuahili]].<ref name="CeQVF">{{Cite web |last=Ornes |first=Stephen |date=16 mars 2023 |title=The Unpredictable Abilities Emerging From Large AI Models |url=https://www.quantamagazine.org/the-unpredictable-abilities-emerging-from-large-ai-models-20230316/ |url-status=live |archive-url=https://web.archive.org/web/20230316203438/https://www.quantamagazine.org/the-unpredictable-abilities-emerging-from-large-ai-models-20230316/ |archive-date=16 mars 2023 |access-date=16 mars 2023 |website=Quanta Magazine}}</ref>

Schaeffer ''et.'' ''al.'' argumentojnë se aftësitë emergjente nuk janë fituar në mënyrë të paparashikueshme, por janë fituar në mënyrë të parashikueshme sipas një ligji të shkallës së qetë. Autorët konsideruan një model statistikor lodër të një LLM që zgjidh pyetje me zgjedhje të shumëfishta dhe treguan se ky model statistikor, i modifikuar për të llogaritur lloje të tjera detyrash, zbatohet edhe për këto detyra. 

== Interpretimi ==
Modelet e mëdha gjuhësore në vetvete janë " kuti të zeza ", dhe nuk është e qartë se si mund të kryejnë detyra gjuhësore. Ka disa metoda për të kuptuar se si funksionon LLM.

Interpretueshmëria mekanike synon të rindërtojë MMGJ- në duke zbuluar algoritme simbolike që përafrojnë përfundimin e kryer nga LLM. Një shembull është Othello-GPT, ku një Transformer i vogël është trajnuar për të parashikuar lëvizjet ligjore të Othello. Është konstatuar se ekziston një paraqitje lineare e tabelës Othello, dhe modifikimi i paraqitjes ndryshon lëvizjet e parashikuara ligjore të Othello në mënyrën e duhur.  <ref name="RLik9">{{Cite web |date=2023-01-21 |title=Large Language Model: world models or surface statistics? |url=https://thegradient.pub/othello/ |access-date=2023-06-12 |website=The Gradient}}</ref> Në një shembull tjetër, një Transformer i vogël është trajnuar në programet Karel. Ngjashëm me shembullin Othello-GPT, ekziston një paraqitje lineare e semantikës së programit Karel, dhe modifikimi i paraqitjes ndryshon rezultatin në mënyrën e duhur. Modeli gjithashtu gjeneron programe të sakta që janë mesatarisht më të shkurtra se ato në grupin e trajnimit. 

Në një shembull tjetër, autorët trajnuan transformatorë të vegjël për [[Aritmetika modulare|mbledhjen aritmetike modulare]]. Modelet që rezultuan u projektuan në mënyrë të kundërt, dhe doli që ata përdorën [[Transformimi Diskret Furje|transformimin diskrete të Furierit]].<ref name="oYGlo">{{Cite arXiv|eprint=2301.05217|last1=Nanda|title=Progress measures for grokking via mechanistic interpretability}}</ref>

=== Kuptimi dhe inteligjenca ===
Studiuesit e NLP u ndanë në mënyrë të barabartë kur u pyetën, në një sondazh të vitit 2022, nëse MMGJ-të (të parregulluara) "mund (ndonjëherë) të kuptojnë gjuhën natyrore në një kuptim jo të parëndësishëm".<ref name="debate understanding">{{Cite journal |last=Mitchell |first=Melanie |last2=Krakauer |first2=David C. |date=28 mars 2023 |title=The debate over understanding in AI's large language models |journal=Proceedings of the National Academy of Sciences |volume=120 |issue=13 |pages=e2215907120 |arxiv=2210.13966 |bibcode=2023PNAS..12015907M |doi=10.1073/pnas.2215907120 |pmc=10068812 |pmid=36943882}}</ref> Përkrahësit e "të kuptuarit të LLM" besojnë se disa aftësi LLM, të tilla si arsyetimi matematikor, nënkuptojnë një aftësi për të "kuptuar" koncepte të caktuara. Një ekip i Microsoft-it argumentoi në vitin 2023 se GPT-4 "mund të zgjidhë detyra të reja dhe të vështira që përfshijnë matematikën, kodimin, vizionin, mjekësinë, ligjin, psikologjinë dhe më shumë" dhe se GPT-4 "mund të shihet në mënyrë të arsyeshme si e hershme (ende ende e paplotë) versioni i një sistemi të inteligjencës së përgjithshme artificiale ": "A mund të thuhet me arsye se një sistem që kalon provimet për kandidatët e inxhinierisë softuerike nuk është ''vërtet'' inteligjent?" <ref name="O8Upd">{{Cite news |last=Metz |first=Cade |date=16 maj 2023 |title=Microsoft Says New A.I. Shows Signs of Human Reasoning |work=The New York Times |url=https://www.nytimes.com/2023/05/16/technology/microsoft-ai-human-reasoning.html}}</ref>  Disa studiues i karakterizojnë MMGJ-të si "inteligjencë aliene".<ref name="rEEmH">{{Cite news |date=2023 |title=ChatGPT is more like an 'alien intelligence' than a human brain, says futurist |work=ZDNET |url=https://www.zdnet.com/article/chatgpt-is-more-like-an-alien-intelligence-than-a-human-brain-says-futurist/ |url-status=live |access-date=12 qershor 2023 |archive-url=https://web.archive.org/web/20230612065937/https://www.zdnet.com/article/chatgpt-is-more-like-an-alien-intelligence-than-a-human-brain-says-futurist/ |archive-date=12 qershor 2023}}</ref>  Për shembull, CEO i Conjecture, Connor Leahy i konsideron MMGJ-të e parregulluara si alienët e padepërtueshëm " Shoggoths ", dhe beson se akordimi RLHF krijon një "fasadë të buzëqeshur" duke errësuar funksionimin e brendshëm të LLM: "Nëse nuk e shtyni shumë larg, fytyra e buzëqeshur mbetet e ndezur, por më pas ju i jepni një nxitje të papritur dhe befas shihni këtë nënbark masiv të marrëzisë, të proceseve të çuditshme të të menduarit dhe të kuptuarit qartësisht jo njerëzor.<ref name="rAFIZ">{{Cite news |last=Roose |first=Kevin |date=30 maj 2023 |title=Why an Octopus-like Creature Has Come to Symbolize the State of A.I. |work=The New York Times |url=https://www.nytimes.com/2023/05/30/technology/shoggoth-meme-ai.html |url-status=live |access-date=12 qershor 2023 |archive-url=https://web.archive.org/web/20230530193814/https://www.nytimes.com/2023/05/30/technology/shoggoth-meme-ai.html |archive-date=30 maj 2023}}</ref><ref name="4luKE">{{Cite news |date=13 prill 2023 |title=The A to Z of Artificial Intelligence |work=Time Magazine |url=https://time.com/6271657/a-to-z-of-artificial-intelligence/ |url-status=live |access-date=12 qershor 2023 |archive-url=https://web.archive.org/web/20230616123839/https://time.com/6271657/a-to-z-of-artificial-intelligence/ |archive-date=16 qershor 2023}}</ref>
==== Paragjykimi politik ====
Paragjykimi politik i referohet tendencës së algoritmeve për të favorizuar sistematikisht pikëpamje të caktuara politike, ideologji ose rezultate mbi të tjerat. Modelet gjuhësore mund të shfaqin gjithashtu paragjykime politike. Meqenëse të dhënat e trajnimit përfshijnë një gamë të gjerë opinionesh dhe mbulimi politik, modelet mund të gjenerojnë përgjigje që anojnë drejt ideologjive ose pikëpamjeve të veçanta politike, në varësi të përhapjes së këtyre pikëpamjeve në të dhëna.<ref>{{Cite web |last=Heikkilä |first=Melissa |date=7 gusht 2023 |title=AI language models are rife with different political biases |url=https://www.technologyreview.com/2023/08/07/1077324/ai-language-models-are-rife-with-political-biases/ |access-date=2023-12-29 |website=MIT Technology Review}}</ref>

*

== Referime ==
<references />
[[Kategoria:Modele të mëdha gjuhësore]]
[[Kategoria:Mësim i thellë]]
[[Kategoria:Përpunim i gjuhës natyrore]]