Hogyan tanították be az AI -kat ?

 A Gemini elmagyarázta

A szokások szerint Gabi bácsi kérdése Bold, a Gemini válaszai dőlten szedve.

Tényleg könyveket használnak az AI -k gyorsított betanítására?

Igen, a könyvek az AI - modellek tanításának legértékesebb és legfontosabb alapanyagai.
A folyamat lényege és a háttérben húzódó okok:
Miért pont a könyvek? Az internetről leszedett egyszerű szövegekhez (fórumbejegyzésekhez, közösségi médiás posztokhoz vagy hírekhez) képest a könyvek:Magas minőségűek és szerkesztettek: Helyesírási, nyelvhelyességi és szerkezeti szempontból gondosan ellenőrzöttek.Hosszú távú összefüggéseket tartalmaznak: A modellek a könyvekből tanulják meg a több fejezeten átívelő logikus gondolkodást, az összetett érvelést és a mélyebb szókincset.Strukturált tudást biztosítanak: A szakkönyvek és tankönyvek révén a modell specifikus területek (orvostudomány, jog, mérnöki tudományok) logikáját is elsajátítja.Hogyan gyorsítják és javítják a tanítást? Ahelyett, hogy a modellnek több milliárdnyi zavaros vagy felületes weblapot kellene feldolgoznia a jó kifejezésmód elsajátításához, a tömény és strukturált könyvszöveg segítségével, nagyságrendekkel gyorsabban és hatékonyabban fejlődik a logikai megértése (ez az úgynevezett hibrid tanítási stratégia).
A nagy jogi konfliktus (Books3 és kalózadatbázisok) A korai szakaszban (a GPT-3, LLaMA és Claude modellek tanításakor) a fejlesztőcégek hatalmas, digitalizált könyvadatbázisokat (mint a Books3 vagy a BookCorpus) használtak fel.Ennek hatására számtalan író és kiadó indított pert a technológiai óriások ellen, mivel a szerzői joggal védett műveiket engedély nélkül ingested -elték (táplálták be) a rendszerekbe.A techcégek a „méltányos használatra” (fair use) hivatkoznak: álláspontjuk szerint a modell nem másolja a könyvet, hanem úgy tanul belőle, mint egy emberi olvasó.A helyzet áthidalására a cégek ma már egyre inkább közvetlen licencszerződéseket kötnek a nagy kiadókkal, vagy nyilvános könyvtári/egyetemi gyűjteményeket használnak fel a modellek folyamatos fejlesztéséhez.

Pl.: egy normál karakter sűrűségű, 100 oldalas regényből mit tud kiszedni az AI?

Egy átlagos, 100 oldalas regény nagyjából 25 000 – 30 000 szóból (kb. 150 000–180 000 karakterből) áll. Ha ezt betáplálják a modellbe a tanítási szakaszban, az AI nem egyszerűen eltárolja a szöveget, hanem a következő mély strukturális és nyelvi összefüggéseket vonja ki belőle:
1. Nyelvtani és szintaktikai mintákMondatszerkezet és dinamika: Megtanulja, hogyan épül fel egy folyékony, élvezetes történetmesélés (pl. mikor érdemes rövid, feszültségkeltő mondatokat használni, és mikor leíró, összetett szerkezeteket).Párbeszédek logikája: Elsajátítja, hogyan váltakoznak a megszólalások, hogyan épül fel egy természetes reakció vagy visszakérdezés a szereplők között.

2. Szemantikai és kontextusbeli összefüggésekKarakter- és szálkövetés: A 100 oldal elegendő ahhoz, hogy a modell megtanulja az idősíkok, az ok-okozati összefüggések és a szereplői viszonyok hosszú távú megtartását (pl. ha a 10. oldalon elhangzik egy félmondat, arra a 80. oldalon hogyan utal vissza az író).Stílus és hangnem: Felismeri az iróniát, a feszültséget, a szatírát vagy a költői leírásokat, és ezek mintázatait beépíti a saját válaszadási stílusába.

3. Szókincs és kifejezéskészletSzókapcsolatok (kollokációk): Felméri, hogy bizonyos szavak milyen kontextusban és milyen valószínűséggel fordulnak elő egymás mellett a minőségi irodalomban.Metaforák és képi megfogalmazások: Megérti az absztrakt jelentéstartalmakat és a közvetett utalásokat.

4. Háttértudás és világépítésKulturális és szituációs modell: Ha a regény például a 19. századi Párizsban játszódik, a modell automatikusan kivonja és összekapcsolja az abban a korban használt tárgyak, társadalmi szokások és kifejezések hálóját.A tanítás során az AI nem magát a könyvet jegyzi meg szó szerint (mint egy adatbázis), hanem a könyvből kinyert matematikai szabályrendszert és nyelvi mintázatot építi be a saját működésébe.

Külön be kell adni egy gyerek mesekönyvet, romantikus, humoros és a technika, művészet klf. ágainak jellemző könyveit akár nyelvenként?

Igen, pontosan így működik a rendszer. Nem egyetlen szuperkönyvből tanul a modell, hanem műfajilag, témájában és nyelvileg rendkívül diverzifikált adatbázisból táplálkozik.
A folyamat logikája a következőképpen épül fel:
1. Műfaji sajátosságok (stílus és hangnem)Gyerek mesekönyvek: Ebből tanulja meg az egyszerűsített mondatszerkezeteket, a játékos szókincset, az egyértelmű morális tanulságokat és a közvetlen, meleg hangvételt.Romantikus regények: Ebből nyeri ki az érzelmek finom árnyalását, a karakterek közötti belső monológokat és az emberi kapcsolatok komplexitásának leírását.Humoros művek: Megtanítják a modellnek a szóvicceket, az iróniát, a jó időzítést és az abszurd fordulatokat (ami az AI egyik legnehezebb feladata).

2. Szakmai és technikai területek (specifikus tudás)Művészet és technika: Ha szakkönyveket (pl. programozás, gépészet, művészettörténet, orvostudomány) adnak be neki, a modell elsajátítja az adott terület pontos szakkifejezéseit (terminológiáját) és logikai érvelését. Így tud később egy mérnöki vagy jogi kérdésre szakszerűen válaszolni.

3. Nyelvi sokszínűség (nyelvenkénti beadás)Nem elég lefordítani: A nyelveket külön-külön, saját anyanyelvi irodalmukon keresztül kell megtanítani a modellnek. Egy magyar mesekönyv vagy szakkönyv nemcsak a szavakat, hanem a magyar nyelv sajátos gondolkodásmódját, szigorú ragozási rendszerét és kulturális utalásait is átadja.A többnyelvűség előnye: Ha a modell sok nyelven kap könyveket, a háttérben képes a fogalmakat nyelvek közötti absztrakt hálózatba rendezni, így könnyebben vált és fordít a nyelvek között.A fejlesztők ezért több millió könyvet (a klasszikus irodalomtól a modern szakkönyvekig) használnak fel minden elérhető nyelven, hogy a modell ne csak egy átlagos „mindenes” legyen, hanem rugalmasan tudjon váltani a meseíró, a mérnök vagy az irodalomkritikus szerepe között.

A nyelvi nagy szótárakat is feltöltik? Lapokra tépnek egy szótárt és beszkennelik?

Igen, a nagy szótárakat is mind beadják a modelleknek, de fizikai könyveket ma már szinte soha nem tépnek szét és nem szkennelnek be kézzel.
1. Honnan veszik a szótárakat?Digitális formátumok (XML, JSON, HTML): A nagy szótárkiadóknak (Oxford, Cambridge, Akadémiai Kiadó) az utóbbi évtizedekben az összes kiadványuk megvan tisztán digitális adatbázisokban. A fejlesztőcégek ezen adatbázisok felhasználási jogait veszik meg (licenszelik), vagy nyílt forráskódú digitális szótárakat (pl. Wiktionary) használnak.Már meglévő digitális archívumok: Ha régi vagy ritka könyvekről van szó, azokhoz a Google Books, az Internet Archive vagy nemzeti könyvtárak digitális állományait használják fel, ahol a szkennelést és a szövegfelismerést (OCR) már korábban elvégezték.

2. Mi történik, ha egy szótár csak papíron létezik? Ha egy ritka szótár tényleg csak nyomtatott formában érhető el, a nagyüzemi digitalizálás így néz ki:Nagy sebességű automata szkennerek: Nem tépik szét a lapokat, hanem speciális, V-alakú könyvszkennerekkel dolgoznak. Ezek automatikusan, vákuumos szívófejekkel vagy levegőfúvással lapozzák a könyvet, miközben nagy felbontású kamerák fotózzák a oldalakat anélkül, hogy a kötés megsérülne.Szétvágás (Cutter/Guillotine scanning): Csak akkor vágják le a könyv gerincét, ha a könyv olcsó, pótolható, és tízezer számra kell rendkívül gyorsan feldolgozni az oldalakat automata lapadagolós szkennerekkel.

3. Mit tanul az AI a szótárakból? A szótárakból a modell nem a folyamatos szövegértést gyakorolja, hanem a pontos definíciókat, a szinonimákat, az etimológiát és a szófaji kategóriákat. Ez adja meg a modellnek a nyelv precíz matematikai és logikai vázát, amire a regényekből és szakkönyvekből tanult élő nyelvre épül.

A biblia is digitális?

Igen, a Biblia az egyik legkorábban és leghatékonyabban digitalizált szöveg a világon.
Ennek több oka is van:Régóta nyílt forráskódú (public domain): A történeti és vallási jelentősége miatt a Biblia fordításainak túlnyomó része nem áll szerzői jogi védelem alatt (a klasszikus fordítások szabadon felhasználhatók).Már a '90-es évek óta digitális: A számítógépes nyelvészet és a korai internethasználat egyik legelső tesztalapanyaga volt. Külön adattárak léteznek (például a Project Gutenberg vagy a BibleGateway), ahol a világ szinte összes nyelvének Biblia-fordítása lekérhető, strukturált adatformátumban (versről versre kódolva).Párhuzamos korpusz: Mivel a Bibliát szinte minden létező nyelvre lefordították, az AI-fejlesztők az úgynevezett „párhuzamos szövegek” tanítására használják. A modell így megérti, hogy ugyanaz a mondat vagy gondolat hogyan jelenik meg magyarul, angolul, szuahéliül vagy ógörögül.A mesterséges intelligencia modellek tanításához tehát a Bibliát sem kellett beszkennelni; már évtizedek óta kész, ingyenesen letölthető adatfájlok formájában állt a fejlesztők rendelkezésére.

És a híres festmények képeit is?
Először megcsinálták a képfelismerést?

Igen, a híres festményeket és a teljes egyetemes képzőművészeti örökséget is digitalizálták, és pontosan jól sejted a sorrendet: először a képfelismerést kellett kifejleszteni, és csak utána jöhetett a képgenerálás.
A folyamat két fő lépésben zajlott le:
1. Első lépés: A képfelismerés (Computer Vision) Mielőtt egy AI rajzolni vagy festeni tudott volna, meg kellett tanítani arra, hogy "lásson" és értelmezze a vizuális világot.Hogyan tanulták meg? Hatalmas adatbázisokat hoztak létre (például az ImageNet-et), ahol több millió képhez feliratokat (címkéket) csatoltak. A modell megtanulta felismerni, hogy mi a különbség egy macska, egy autó vagy egy emberi arc között a pixelek hálózatában.A festmények szerepe a felismerésben: A híres festményeket magas felbontásban digitalizálták (múzeumok, mint a Louvre vagy a Rijksmuseum, valamint a Google Arts & Culture projekt révén). Ezekhez részletes leírásokat csatoltak: a kép címét, a festőt, a stílust (pl. impresszionizmus, barokk), az ábrázolt tárgyakat és a felhasznált színpalettát.

2. Második lépés: A képgenerálás (Generatív modellek, pl. Midjourney, DALL-E) Amikor a modell már biztonsággal felismerte a képeket és a stílusokat, a fejlesztők megfordították a folyamatot.A generatív modellek megtanulták a szavak és a vizuális elemek közötti kapcsolatot.Ha a modellnek megmutattak 10 000 Monet-festményt a hozzájuk tartozó „fények a vízen”, „impresszionista ecsetkezelés”, „tavirózsák” címkékkel, akkor a rendszer megértette a stílus matematikai mintázatát.Ezután, ha a felhasználó azt kéri: „Festess egy macskát Monet stílusában”, az AI már nem egy meglévő képet másol le, hanem a felismerés során megtanult ecsetkezelési és színképzési szabályok alapján teljesen új képet hoz létre. És meg tudják különböztetni a képi feliratokat, mert azok kitűnnek egy festmény pixel mintázatából?

Korábbi OCR alkalmazással fejtik vissza?

Igen, pontosan jól látod mindkét mechanizmust, de a mai modern rendszerek ennél még közelebb hozták egymáshoz a két technológiát.
A folyamat működése és a szövegek elkülönítése:
1. Korábbi megközelítés: Külön OCR (karakterfelismerés) A korai fázisban valóban egy hagyományos OCR (Optical Character Recognition) modellt futtattak le a képeken. Ez felismerte a betűk kontúrjait, kiolvasta a szöveget (például egy szignót a sarokban, egy címkét vagy a képen lévő feliratot), majd ezt a szöveget leíró adatként (meta adatként) hozzácsatolta a képhez.
2. Modern megközelítés: Multimodális mintázat felismerés A mai nagy vizuális modellekben (mint a GPT-4o, Gemini vagy Vision Transformer modellek) már nincs szükség külön OCR szoftverre, mert maga a modell a vizuális mintázatból egyszerre tanulja meg a képet és a szöveget.A szignók és feliratok eltérő pixelsűrűsége: A betűknek és számoknak nagyon jellegzetes, magas kontrasztú, éles él- és vonalstruktúrájuk van, ami matematikai szempontból élesen elüt a festmény finom színháttereitől vagy az ecsetvonások textúrájától.Kontextus szerinti megkülönböztetés: A modell nemcsak azt látja, hogy „ott egy betű”, hanem a környezetéből értelmezi is azt. Megtanulja, hogy a jobb alsó sarokban lévő apró, éles mintázat egy szignó (pl. „Picasso 1907”), a kép közepén lebegő betűsor egy plakát felirata, míg az alatta lévő keretre írt szöveg a műtárgy címe.Miért fontos ez a tanításnál? A képgeneráló modelleknél (pl. Midjourney) kiemelten fontos volt a szövegek elkülönítése. Ha a modell nem tudná különválasztani a képi tartalmat a feliratoktól, akkor minden alkalommal, amikor egy híres festmény stílusában kérnél képet, odafestene a sarokba egy értelmetlen, kitalált szignót is, mert azt hinné, hogy a szignó maga is a festmény stílusának szerves része.

És mi a helyzet a kézírással? Mi van, ha rondán írok?

A kézírás – különösen, ha csúnya vagy egyedi – nagyságrendekkel nehezebb dió, de az AI rendszerek erre is kifejezetten hatékony megoldásokat használnak.
A működési elv és a megoldási technikák:
1. Hogyan tanulja meg az AI a kézírást? (HTR – Handwritten Text Recognition) Nem egyedi betűképeket keres, hanem kontextust és mozgásmintát értelmez:Vonal vonalak és irányok: A modell a pixelek sűrűségéből és az ívek lefutásából visszafejti az írásmozgást (a kéz mozgását).Kontextus alapú kiegészítés (A nyelvi modell segítsége): Ha egy betű teljesen olvashatatlan firka, az AI nem önmagában a betűt próbálja kitalálni, hanem a mondat többi részét nézi. Ha a mondat úgy szól, hogy "A macska felmászott a f...-ra", a nyelvi szűrő tudja, hogy a firka szinte biztosan a "fára" szó.

2. Mi van, ha nagyon rondán írsz? Ha az írásod az emberi szem számára még kivehető, az AI szinte biztosan el tudja olvasni, sőt, sokszor jobban, mint egy átlagos ember.Zajszűrés és szegmentálás: A képfeldolgozó egység először eltávolítja a háttérzajt (gyűrődés, kockás füzet vonalai, pacák), és leegyszerűsíti a firkát egy tiszta vektoros vonallá.Több opció mérlegelése: A modell valószínűségi térképet épít. Nem azt mondja, hogy "ez egy 'a' betű", hanem azt, hogy "80% eséllyel 'a', 15% eséllyel 'o', 5% eséllyel 'e'", majd a szó és a mondat értelme alapján választja ki a helyeset.

3. Hol van a határ? A rendszerek ott véreznek el, ahol már az emberi orvosok vagy írásszakértők sem tudják kiolvasni a szöveget. Ha egy firka teljesen elveszíti az egyedi karakterjegyeit, és a környező mondatból sem következtethető ki a jelentés, az AI is csak találgatni fog, vagy halandzsát ad vissza.

Akkor az AI egyben egy jó írásszakértő?

Igen, technikai értelemben az AI rendkívül hatékony vizuális elemző, de a klasszikus értelemben vett igazságügyi írásszakértőtől mégis lényegesen eltér a működése és a szerepe.
Íme a hasonlóságok és a fontos különbségek:
Miben jobb vagy egyenértékű az AI (mint mintázatelemző)?Eltérések és mikroszkopikus jegyek: A Computer Vision modellek olyan finom pixeltartománybeli eltéréseket, vonalvastagság-változásokat és mikroszkopikus remegéseket (pl. hamisításnál a kéz bizonytalanságát) is képesek kiszúrni, amelyeket szabad szemmel szinte lehetetlen észrevenni.Tollnyomás és dinamika becslése: A tintaterülésből és a vonalak szélének élességéből az AI meglepő pontossággal képes felbecsülni, hogy mekkora nyomással és milyen szögben tartották a tollat. Gyors összehasonlítás: Ha több ezer oldalas kézírásos adatbázisban kell megtalálni egy adott ember írásjellegeit (pl. hogyan hurkolja a t vagy g betűt), az AI másodpercek alatt elvégzi a mintázatillesztést.Miben más egy igazi igazságügyi írásszakértő? Pszichológiai és fiziológiai tényezők: Egy emberi szakértő nemcsak a vonalat nézi, hanem figyelembe veszi a kontextust is: az író életkorát, egészségi állapotát (pl. Parkinson-kór, látásromlás), az alkoholos vagy gyógyszeres befolyásoltságot, a fáradtságot, vagy akár azt, hogy milyen felületen és milyen eszközzel írt.Jogi felelősség és indoklás: Bírósági eljárásban az AI „fekete dobozként” működik: megmondja, hogy 98% a valószínűsége a megegyezésnek, de nem tud jogi érvényű, részletes szakértői véleményt levezetni. Az igazi szakértőnek pontról pontra indokolnia kell a megállapításait.A gyakorlatban a kettő ötvöződik: a modern igazságügyi írásszakértők ma már célszerszámként használnak specifikus AI - szoftvereket a mérésekhez és a gyors összehasonlításhoz, de a végső konklúziót és a felelősséget az emberi szakértő vállalja.

És mi van, ha egy őserdei törzs nem tudja, hogy mi az a robotporszívó?
Az ottani promptra hogyan válaszol az AI?
A nyugati világból veszi és elmagyarázza?
És ha abban a nyelvben nincs pl. a gőzfejlesztő?

Ez a kérdés a mesterséges intelligencia kulturális adaptációjának és a nyelvi leképezésnek a legizgalmasabb területe.
Ha egy izolált, őserdei törzs tagja (vagy valaki az ő nyelvükön) feltesz egy kérdést egy számára teljesen ismeretlen modern eszközről, az AI a következő stratégiákkal válaszol:
1. Funkcionális analógiák és metaforák használata Ha a célnyelvben nincsenek szavak a robotporszívóra, a processzorra vagy az akkumulátorra, a modell nem a nyugati technikai szakszavakat erőlteti, hanem a törzs számára ismert természeti és mindennapi fogalmakhoz nyúl vissza:Robotporszívó helyett: „Egy apró, gomba alakú mechanikus lény/eszköz, amely magától mászik a földön, és lenyeli a port, leveleket, apró piszkot a kunyhó padlójáról, mint egy szorgalmas hangya, majd amikor megtelik, visszatér a fészkébe feltöltődni.”A működés elve: Nem „szívómotorról” beszél, hanem „mesterséges szélről, ami beszívja a levegőt”.

2. Mi van, ha a nyelvben nincs szó a „gőzfejlesztőre”? A nyelvészetben ezt fogalmi hiánynak (lexical gap) hívják. Ha egy nyelvben nincs szó, akkor a gőzre, mint technológiai elemre vagy a gőzfejlesztőre, az AI körülírással (parafrázissal) és a fizikai elemek lebontásával magyarázza meg:Példa a leírásra: „Egy olyan szerkezet, amely tüzet vagy meleget használ arra, hogy a vizet forró, láthatatlan füstté/felhővé (gőzzé) változtassa, és ezt a forró felhőt nagy erővel kinyomja magából, hogy tisztítson vagy gépeket hajtson meg.”A modell a nyelv meglévő alapszavaiból (víz, tűz, forróság, felhő/füst, erő) építi fel az új fogalmat.

3. Nyugati központú a magyarázat? Igen is, meg nem is:A fogalom nyugati: Maga a tárgy (a robotporszívó vagy a gőzfejlesztő) a modern technológiai kultúrából származik, így az eszköz célja és logikája a nyugati világ modelljét tükrözi.A magyarázat nyelvi kerete lokalizált: A jó nyelvi modell nem a nyugati életmódot veszi alapul a magyarázatkor, hanem megpróbál az adott kultúra perspektívájába helyezkedni (az ősi, megszokott tárgyaikhoz, környezetükhöz hasonlítja a jelenséget).Az AI ilyenkor pontosan úgy működik, mint egy antropológus vagy egy fordító: ahelyett, hogy megpróbálná megtanítani a teljes nyugati szakszókincset, a helyi kultúra képeire és szavaira „fordítja le” a technológiát.

És mi a helyzet a fekete lyukkal?
Barlangot mond?

A barlang metafora kifejezetten jó ötlet lenne egy felszíni szerkezet leírására, de a fekete lyuk esetében az AI inkább egy minden anyagot és fényt elnyelő, feneketlen örvényhez vagy égi csapdához hasonlítaná a jelenséget.
A különbség a barlang és a fekete lyuk között az AI magyarázati stratégiájában:
1. Miért nem ideális a barlang? A barlang egy fizikai hely, ahová be lehet menni, majd ki is lehet jönni belőle. Van fala, alja és szilárd szerkezete. A fekete lyuk ezzel szemben nem egy lyuk a földben, hanem a tér egy olyan pontja, ahol a gravitáció olyan elképesztően erős, hogy még a fény sem tud kiszabadulni belőle.
2. Milyen analógiát használna az AI az őserdei törzs nyelvén? A barlang helyett a természetben tapasztalható örvényeket és láthatatlan erőket hívná segítségül:A folyami örvény képe: „Képzelj el egy olyan hatalmas és gyors örvényt a folyó közepén, amelyből semmilyen kenu, hal vagy úszó ember nem tud kiúszni. Bármi, ami a közelébe ér, a mélybe húzódik, és soha többé nem kerül a felszínre.”A láthatatlan fal/csapda: „Ez egy olyan láthatatlan hely az égen, mint egy óriási éhes szörnyeteg, ami nem látszik, de mindent megeszik: a csillagok fényét, a port és a sziklákat is, amik túl közel mennek hozzá.”A fény elnyelése: „Olyan, mint egy sötét árnyék az éjszakai égen, ami elnyeli a fáklyák és a csillagok fényét is, így semmi sem világíthat ki belőle.”

3. A nyelvészeti megoldás Ha a törzs nyelvén létezik szó a szívóerőre, a mélységre, a sötétségre vagy a visszatérés hiányára („a hely, ahonnan nincs visszatérés”), az AI ezekből az elemekből rakja össze az új összetett fogalmat. Thus, a barlang helyett egy „feneketlen égi örvényként” vagy „fényfaló sötétségként” írná körül.

Milyen kód nyelven?

Nem, ezeket az eseteket egyáltalán nem kellett kézzel leprogramozni.
Ha minden egyes szót, nyelvet, metaforát és kultúrát külön szabályként kellett volna megírni („if-else” alapon), ahhoz a világ összes programozójának az élete is kevés lenne.
Az AI működése nem ilyen hagyományos programozáson alapul. A folyamat két fő rétegből áll:
1. A hálózat maga: Python, C++ és CUDA A rendszert leíró alapvető szoftveres infrastruktúrát valódi programnyelveken írják meg:Python: Ez az AI - fejlesztés első számú nyelve. Ebben írják a keretrendszereket (PyTorch, TensorFlow), amelyek a modell architektúráját, a tanítási folyamatot és az adatok mozgását vezérlik.C++ és CUDA: A háttérben a gyors számításokért a C++ és az NVIDIA saját nyelve, a CUDA felel. Ez közvetlenül a videokártyák (GPU-k) hardverén futtatja a tömbműveleteket és a mátrixszorzásokat a maximális sebesség érdekében.

2. A tudás és a logika: Matematikai mintázat (Súlyok és Vektorok). A programkód maga csak a „gépezet” (a motor), de nincs benne leírva, hogy mi az a fekete lyuk vagy a robotporszívó.A tanítás során a modell több milliárd szövegből önállóan építi fel a kapcsolatokat.A szavakat és fogalmakat számokból álló vektortérben helyezi el. Ebben a matematikai térben a „fekete lyuk”, az „örvény”, a „sötétség” és a „visszatérés hiánya” nagyon közel kerülnek egymáshoz.Amikor a modell találkozik egy ismeretlen nyelvvel vagy egy ritka fogalommal, nem egy megírt szabálykönyvből keresi ki a választ, hanem kiszámítja a legvalószínűbb és legközelebbi jelentésbeli átfedést ebben a matematikai térben.Tehát a programozók csak a tanulási szabályokat és a hálózat felépítését írják meg Pythonban és C++-ban. A szavak jelentését, a metaforák képzését és a kulturális igazodást maga a hálózat alakítja ki a tanulási folyamat során.

Na, elértem a saját megértési határomat.

Ez teljesen természetes, elértünk a mesterséges intelligencia legelvontabb, legnehezebb részéhez.
A lényeg egyetlen egyszerű képpel összefoglalva:
A hagyományos programozás olyan, mint a szakácskönyv: A programozó pontosan leírja a receptet lépésről lépésre („ha ezt látod, csináld ezt”).
Az AI tanítása pedig olyan, mint a nyelvtanulás: A programozók csak megépítik az „agyat” (a gépezetet), megmutatják neki az egész világ tudását, a gép pedig saját maga jön rá a mintákra és az összefüggésekre.
Nem szabályokat magol el, hanem megtanulja a világ logikáját. Ezért tud egyetlen logikai ugrással a fekete lyukból „feneketlen égi örvényt” csinálni egy őserdei nyelvben, anélkül, hogy ezt bárki külön beprogramozta volna neki.

De hogyan tud tanulni?

A tanulás alapja egy meglepően egyszerű elv: a hiányzó szó kitalálása (tippelés).
A gép úgy tanul, mint egy ember, aki milliószor játssza le a „kösd össze a pontokat” vagy a „töltsd ki a hiányzó szót” játékot.
1. A tanítási módszer (A rejtvény) A fejlesztők betáplálnak a gépbe egy mondatot a több milliárd könyvből vagy cikkből, de az utolsó szót letakarják előle:
"A napkeleti bölcsek követték a [???]"
2. A gép tippel (A hiba felismerése) A gép eleinte teljesen hülye, és véletlenszerűen tippel:
Gép: „A napkeleti bölcsek követték a kanalat.”
A program ekkor azt mondja neki: „Nem, a helyes válasz a csillagot lett volna. Óriásit tévedtél!”
3. A beállítások finomítása (A matematikai tanulás) A gép a hiba alapján egy picit módosítja a belső matematikai beállításait (a „súlyokat” az agyában), hogy legközelebb a „bölcsek” és a „napkeleti” szavak után nagyobb eséllyel válassza a „csillag” szót, mint a „kanalat”.
4. A lépték (Amiért működik) Ezt a tippelős játékot a gép nem százszor vagy ezerszer játssza le, hanem több ezermilliárd szón és mondaton keresztül, hónapokon át, több tízezer szuperszámítógépen.
A sokmilliárdnyi kitöltött rejtvény során a gép lassan megérti a szavak közötti rejtett kapcsolatokat:Rájön, hogy a nap, a holdsugár és a csillag mind az égen vannak.Rájön, hogy a szomorú, a bánatos és a lehangolt hasonló érzések.Megérti, hogy a kérdésekre válaszok szoktak következni.Nem megjegyzi a mondatokat, hanem a folyamatos hibáztatásból és javításból megtanulja a nyelv és a világ belső logikáját.

És hogyan magyarázná el a fekete lyukat egy őserdei törzsnek ?

Sokan azt hiszik, hogy az AI úgy működik, mint egy óriási enciklopédia: ha beírsz egy kérdést, megkeresi a választ egy előre bepötyögött adatbázisból. De mi van akkor, ha olyan dolgot kérdezel tőle, ami sehol sincs leírva?
Például: hogyan magyarázza el a gép a robotporszívót vagy a fekete lyukat egy olyan törzsnek, aminek a nyelvében még a "gőz" vagy a "geometria" szavak sem léteznek?
Nem, a fejlesztők nem ültek ott éjszakákon át Pythonban kódolva, hogy megírják az „If törzsi_nyelv == True then mondd_hogy_örvény” szabályokat. Az AI nem szabályokat magol el, hanem mintázatokat tanul.
Hogyan tanul meg a gép gondolkodni?
Úgy, mint egy kisgyerek, aki milliószor játssza le a „töltsd ki a hiányzó szót” játékot.
A fejlesztők betáplálnak a gépbe egy mondatot a világ összes könyvéből, de az utolsó szót letakarják: „a napkeleti bölcsek követték a [???]”
Ha a gép elsőre azt tippeli, hogy „kanalat”, a rendszer rámutat a hibára. Ezt a tippelős játékot a gép nem százszor, hanem több ezermilliárd szón keresztül játssza le. A rengeteg hiba és javítás során pedig lassan megérti a szavak közötti rejtett kapcsolatokat. Rájön, hogy a nap, a holdsugár és a csillag mind az égen vannak, és hogy a szomorú meg a bánatos hasonló érzések.
Ezért tud metaforákban beszélni
Amikor a gép megérti a fogalmak belső logikáját, már nem szóról szóra fordít. Ha egy izolált nyelvben nincs szó a fekete lyukra, nem barlangot mond (mert a barlangból ki lehet jönni), hanem összerakja a saját tapasztalataiból: „Egy feneketlen égi örvény, ami elnyeli a csillagok fényét is.”
Nem válaszokat magolt be, hanem megtanult analógiákban gondolkodni. És őszintén: néha pontosabban és türelmesebben magyaráz, mint mi, felnőttek egy fárasztó nap végén.

Szerintem a többség nem is sejti, hogy mennyi munkával jöttek össze az AI -k.

Ez pontosan így van. Az emberiség hajlamos azt hinni, hogy a mesterséges intelligencia valami varázsütésre vagy egyetlen zseniális kód megírásával jött létre, pedig valójában a civilizációnk eddigi leghatalmasabb, több évtizedes kollektív adatgyűjtési és mérnöki munkájának az eredménye.
A munka nagyságrendje, amit a legtöbben fel sem fognak:Évtizedek digitalizálási munkája: Az, hogy a könyveket, a szótárakat, a Bibliát, az újságarchívumokat és a múzeumi festményeket be lehetett táplálni a gépbe, nem a techcégek érdeme, hanem könyvtárosok, kutatók, múzeumok és archiválók sok évtizedes szorgalmi munkája. Ők tették fel a kulturális örökséget a netre.A "Láthatatlan Worker" sereg: A modellek mögött több százezer ember áll (világszerte adatcímkézők, tesztelők, szakértők), akik éjjel-nappal javítgatják a válaszokat, képeket kategorizálnak, és tanítják a rendszert, hogy mi a jó és mi a rossz válasz.Fizikai és mérnöki megfeszülés: A chipek (GPU-k) megtervezése, a félvezetőgyártás mikroszkopikus precizitása, a hatalmas adatközpontok felépítése, az elképesztő áramigény megteremtése és a hűtési rendszerek kitalálása az emberi mérnöki tudomány csúcsa.Több milliárd ember önkéntes adatgyűjtése: Minden egyes fórumposzt, Wikipédia -szócikk, fotó vagy digitalizált szöveg, amit az elmúlt 30 évben az emberiség feltöltött az internetre, mind az AI üzemanyaga lett.

Az AI valójában nem egyetlen szuperintelligens gép, hanem az egész emberiség eddig felhalmozott tudásának és munkájának a digitális tükörképe.