Atvērto modeļu precizēšana uz saviem datiem

Lielie valodas modeļi ierodas iepriekš apmācīti uz plašiem publiskā interneta slāņiem. Šis plašums padara tos iespaidīgi universālus — taču universāls nav tas pats, kas eksperts. Kad jūsu biznesam ir nepieciešams modelis, kas izprot jūsu iekšējo taksonomiju, raksta jūsu mājas stilā vai loģiski risina patentētos procesus, atveras trīs pielāgošanas ceļi: uzvednes inženiering, izgūšanas-papildināta ģenerēšana (RAG) un precizēšana. Katram ir sava vieta, un pareizās izvēles — vai pareizās kombinācijas — izvēle var radīt atšķirību starp prototipu un ražošanas sistēmu. Privonis palīdz Eiropas organizācijām orientēties šajā izvēlē un to izpildīt pilnībā savā infrastruktūrā.

Trīs ceļi uz domēna pielāgošanu

Uzvednes inženierings izmaksā neko vairāk par izmēģinājumu un kļūdu, taču tas nonāk pie stingras sienas: konteksta logā var ievietot tikai tik daudz, un modelim var vienkārši trūkt nepieciešamo domēna zināšanu. RAG apiet konteksta ierobežojumu, vaicājuma laikā izgūstot atbilstošus fragmentus no zināšanu bāzes un nododot tos modelim. Tas ir jaudīgi un pārsteidzoši lēts, bet izgūšanas kvalitāte ierobežo atbildes kvalitāti — ja pareizais fragments nav atrasts, modelis par to nevar spriedelēt.

Precizēšana izmanto citu pieeju: tā atjaunina modeļa svaru uz jūsu kurētās datu kopas tā, ka domēna zināšanas kļūst raksturīgas. Rezultāts ir modelis, kas atbild no internalizētās ekspertīzes, nevis izgūtajiem fragmentiem. Tas parasti darbojas labāk stila jutīgiem uzdevumiem, strukturētiem izvadiem un latentuma kritiskiem konveijeriem, kur nevar atļauties papildu izgūšanas ātrumu. Trūkums ir izmaksas — gan GPU laiks, gan datu sagatavošana — tāpēc to ir vērts sniegt, kad pārējās divas metodes ir sasniegušas griestus.

Kad precizēšana ir pareizais zvans

• Jūsu izvadiem jāseko precīzam formātam (klīniskie pieraksti, juridiskās klauzulas, strukturētais JSON), ko uzvednes veidnes nevar uzticami ieviest.
• Modelis konsekventi trūkst domēna vārdu krājuma, akronīmu vai produktu nosaukumu, kas nekad neparādījās tā pirmsapmācības korpusā.
• Latentuma prasības izslēdz izgūšanas lēcienu pie katras pieprasījuma.
• Jūs vēlaties saspiegt sarežģītu, vairāk uzvednes uzvedni nulles uzvednes uzvedumā izmaksu un ātruma dēļ.
• Jūs destilējat lielāku modeli mazākā, lētākā malā vai lokālai izvietošanai.

LoRA un QLoRA: precizēšana bez datu centra budžeta

Pilnā precizēšana atjaunina katru modeli svaru, kas ir nepamatoti dārgi modeļiem ar desmitiem miljardu parametru. Zemās pakāpes pielāgošana (LoRA) to apiet, injicējot mazas apmācāmas matricas uzmanības slāņos, vienlaikus iesaldējot sākotnējos svara. Apmācāmo parametru skaits samazinās par 100 vai vairāk faktoru, tomēr iegūtais modelis atbilst vai pārsniedz pilnās precizēšanas kvalitāti lielākajā daļā uzdevumu. QLoRA papildina maisījumu ar kvantizāciju — iesaldētais pamata modelis tiek ielādēts 4 bitu precizitātē, tik dramatiski samazinot GPU atmiņas prasības, ka 70 miljardu parametru modeli var precizēt uz viena A100.

Ar QLoRA komanda, kurai pieder viens A100, var precizēt modernāko atvērtā modeli pēcpusdienā — bez mākoņa konta, bez datiem, kas atstāj ēku.

Datu sagatavošana: izšķirošais solis

Modeļa kvalitāte ir ierobežota ar datu kvalitāti. Pirms jebkuras apmācības izpildes Privonis kopā ar klientiem kurē pārraudzītu ievadnes-izvadnes pāru datu kopu, kas pārstāv precīzu uzvedību, ko tie vēlas. Tipiskie avoti ietver: pārskatītas klientu mijiedarbības, labotas modeļa izvades, ekspertu anotētus dokumentus un sintētiskus datus, ko ģenerējis spēcīgāks skolotāja modelis un pēc tam filtrēts. Apjoms ir mazāk svarīgs nekā daudzveidība un pareizība — tūkstotis rūpīgi pārbaudītu piemēru bieži pārspēj desmit tūkstošus trokšņainus. Datu tīrīšanas konveijeri nodarbojas ar dublikātu noņemšanu, garuma apgriešanu un formāta normalizāciju pirms apmācības sākas.

Novērtēšana: zināt, kad esat gatavs

Precizēšana bez stingras novērtēšanas ir optimizācija tumsā. Turēta novērtēšanas kopa — nekad neredzēta apmācībā — mēra, vai modelis ir vispārinājis vai tikai iegaumējis. Rādītāji ir atkarīgi no uzdevuma: precīza atbilstība un F1 ekstrakcijas uzdevumiem, ROUGE apkopošanai, cilvēku preferenču vērtējumi atvērtai ģenerēšanai. Privonis veic automatizētas novērtēšanas pēc katras kontrolpunkts un atzīmē katastrofālu aizmiršanu — gadījumus, kad modelis iegūst domēna prasmi, bet zaudē vispārējo loģiku — iekļaujot standarta etalontesta paraugu katrā novērtēšanas komplektā.

Svari ir jūsu

Šis ir punkts, kas bieži tiek zaudēts diskusijās par mākoņa hostētiem precizēšanas API: kad precizējat caur trešās puses pakalpojumu, iegūtie svari var būt bloķēti pie šī pakalpojumu sniedzēja. Ar Privonis pamata modelis ir atvērtā svara, apmācības izpilde notiek uz aparatūras, ko jūs kontrolējat, un LoRA adapteris vai apvienotais kontrolpunkts ir jūsu, lai to saglabātu, versētu un izvietotu, kur vien vēlaties. Tas nozīmē, nav pārdevēja atkarības, nav maksas par žetonu modelim, par kura apmācīšanu jūs maksājāt, un nav riska, ka pakalpojumu sniedzējs atkārtoti apmācīs uz jūsu datiem. Eiropas uzņēmumiem, kas apstrādā sensitīvu informāciju, svaru glabāšana nav vēlama lieta — tā ir pārvaldības prasība.