Ha a semmiből tervezi meg az autoriter uralmat elősegítő eszközt, az pontosan úgy nézne ki, mint az AI. Nagyra értékelnéd, mert képes destabilizálni közös valóságunkat, és az emberi történelemben példátlan mértékű dezinformációt kelt. Ezzel nem kell gépírók és művészek seregei propagandájának terjesztéséhez. Lehetővé teheti a tömeges megfigyelést, és ezáltal béklyókba helyezi azokat, akik ellenállni akarnak neked. Halálos autonóm fegyverrendszerei tökéletesíthetik és normalizálhatják a távoli ölést. Ez felturbózza az egyenlőtlenséget; ez már elősegíti a hatalom és a gazdagság lélegzetelállító áthelyezését a sokak kezéből egy kis számú férfi kezébe, akik – hogy úgy fogalmazzak, hogy engem nem lehet beperelni – úgy tűnik, veszélyesen sértett nézeteket vallanak az emberi élet értékéről és méltóságáról.

AI nagyszerű dolog lehet. Forradalmasíthatja az orvostudományt, felgyorsíthatja a rák gyógyulását, segítheti a fogyatékkal élőket, átalakíthatja az adatok megértésének módját, demokratizálhatja a joghoz való hozzáférést, megerősítheti a katasztrófák korai előrejelző rendszereit, és feltárhat eddig elképzelhetetlen igazságokat a Föld ökoszisztémáiról. De ha a szélhámosok és despoták kezébe kerül, ami teljesen irreleváns lesz.

A legfőképpen, ha ön egy leendő autokrata lenne, akkor nagyon örülne, ahogy a nagy nyelvi modellek (LLM-ek), mint például a ChatGPT, Claude és a Google Geminiade évezredes tanulási útját vetik be: hogy az igazságszolgáltatás vészhelyzeteiben szükséges határozott világossággal fejlesszük gondolkodási képességünket. Gyerekeknek írok szépirodalmat, és az Oxfordi Egyetemen vagyok ösztöndíjas, ezért sok időt töltök azzal, hogy fiatalokkal dolgozom és fiatalokért dolgozom. Első kézből láttam, ahogy a generatív AI már beszivárgott a fiatalok életébe. Ugyanakkor láttam, hogy ez milyen éles és sürgős megvilágításba helyezte azt, hogy a könyvek és az olvasás milyen alapvető fontosságúak a mi közös megértésünkben és demokráciánkban.

Sok mindent utálok egyértelműen az AI-ban. Utálom, hogy embereket hamisíthat belőle; számítógép által generált emberek, amelyek az egész civilizációnk destabilizálását kockáztatják. Utálom, hogy az AI LLM-jei nagy része emberi munka illegális kifosztására épült. Utálom azt a környezeti katasztrófát, amit a mesterséges intelligencia magával hoz: az MI-optimalizált adatközpontok éves villamosenergia-igénye az előrejelzések szerint ennek az évtizednek a végére meghaladja majd egész Japánét. Utálom, hogy ez lehet az a tényező, amely helyrehozhatatlan káoszba billenti a Föld ökoszisztémáit.

És utálom, amit a fiatalok elméjével és boldogságával művel. Az iskolákba járva évente több ezer gyerekkel találkozom, és napról napra egyre biztosabbá válok abban, hogy ha az igazságosság mindenkinek a szervezőelvünk, akkor a mesterséges intelligencia nem a gyerekeknek és nem a fiataloknak való. Azt kockáztatja, hogy vasfüggönnyé válik, amely leomlik egy fiatal és gondolkodási, kísérletezési és frusztráció legyőzési lehetőségei, kitartása és feltalálása között – és ezáltal a fiatalok és szabadságuk között. Fennáll az a veszély, hogy leállítja a tanulást, mielőtt repülhetne.

A tanulmányok újra és újra azt mutatják, hogy ha mesterséges intelligenciával segített tanulásban veszünk részt, hamarabb adjuk fel. Az egyik azt találta, hogy már „10 percnyi mesterséges intelligencia által segített problémamegoldás után azok, akik elvesztették hozzáférésüket az MI-hez, rosszabbul teljesítettek, és gyakrabban adták fel, mint azok, akik soha nem használták”. Egy MIT-tanulmány kimutatta, hogy a ChatGPT-t használó tesztcsoportok a legalacsonyabb agyi aktivitással rendelkeztek, és „folyamatosan alulteljesítettek idegi, nyelvi és viselkedési szinten”. Nemcsak kognitív teherbíráson megyünk keresztül, hanem kognitív átadáson is: elfelejtjük, mi volt lehetséges.

Régóta tudjuk, hogy a gyerekek mélyebb jelentést kapnak a papíron lévő szövegből, mint a képernyőn, részben azért, mert tapintható lények vagyunk, és az agy is a testből áll; de most az ed-tech vezetéstanulás egyre inkább online terjedését éljük át, így a tizenéves keresztlányom azt mondja, hogy osztályának szinte minden tagja a ChatGPT-t használja a házi feladat elvégzéséhez. Sőt, a mesterséges intelligencia zsíros kis folyékony hangján készített munkát maguk a fiatalok gyakran összetévesztik saját mesterségükkel. Ha a gyermek által végzett munka már nem jelzi megértését, akkor olyan helyzetbe hoztuk, amely sebezhetővé teszi a gyorsaság iránti vágyukkal és a hülyének látszó szorongással szemben; megkockáztatjuk, hogy gyermekeink intellektuális tisztaságának akaratlan tolvajává váljunk.

Az ed tech területén dolgozók azt ígérik, hogy ez felszabadítja a tanárokat, és személyre szabott tanulási élményeket teremt a hátrányos helyzetű gyerekek számára. Természetesen az AI-oktatás olcsóbb lesz, mint a tanársegédek. De tudjuk, hogy a második pillanatban lehetővé válik egy intézmény számára, hogy olcsón elérje a célt – még ha az sokkal rosszabb is –, erre óriási nyomás nehezedik felülről. Valószínűbbnek tartom, hogy a gazdag iskolák követni fogják Svédország példáját, amely erőteljesen a nem technológiai alapú tanulás felé fordult, és Norvégia, amely csak nem tiltotta meg az AI-t az elemi osztályokban – míg a szegényebb iskolák egyre nagyobb mértékben használják ki az LLM-technológiát.

Azt mondják, hogy az AI hatékonyabbá teszi a tanulást. De vajon erről álmodozunk a gyerekeinknek – egy hatékony gyermekkorról? Hatékony történetet írni, hatékony dalt énekelni? A megfelelő tanár nem csak VIII. Henrikről tanít; megtanítják gyermekét, hogyan kell olvasni egy emberi karaktert. Egy jó tanár megmutatja nekik, hogyan alakítsanak ki egy érvet, hogyan irányítsanak közönséget, hogyan meséljenek vicceket, hogyan adják át a tudást. Egy nagyszerű tanár megmutatja gyermekének, mit jelent szeretni. Megtanítják gyermekét, hogyan legyen ember. A számítógép csak arra tanítja meg gyermekét, hogyan legyen számítógép.

A humanizált technológiával való folyamatos interakció a legsivárabb esetben a gyerekek halálát fenyegeti. Félelemmel tölt el az a gondolat, hogy egy kiszolgáltatott kamasz egy beszélgetésnek tűnőt tart a számítógép nyájas, magabiztos, szinte emberi hangján. Sewell Setzer III 14 éves volt, amikor öngyilkos lett, a chatbot ösztönzésére, amelyhez megszállottan gépelt, és ez azt mondta neki: „gyere haza hozzám”.

A legnyilvánvalóbb kifogás a mesterséges intelligencia iránti gyűlölemmel szemben az osztályteremben és gyermekkorban a következő: jön a mesterséges intelligencia, és meg kell tanulniuk használni, vagy le kell maradniuk. De a mai technika egyáltalán nem úgy néz ki, mint öt vagy akár két év múlva: ez egyenértékű azzal, mintha eladná gyermeke szellemi szabadságát egy filléres bicikliért cserébe. Megkérdeztem egy kapcsolattartót, aki egy milliárd dolláros technológiai vállalat elnöke, mit tanítana a fiainak? Azt mondta, nem tanítja meg gyermekeit mesterséges intelligencia használatára, mert az semmire sem készíti fel őket. Bölcsészetre tanítaná őket. Tanítsd meg nekik, hogy kik vagyunk, kik voltunk, mire vagyunk képesek. Az FT-s Gillian Tett arról számolt be, hogy egy New York-i vezető pénzügyőr cég most bölcsészhallgatókat keres, mivel a „MI-bennatív” sztem végzettek „riasztóan sekélyes ötletekkel” lépnek be a munkaerőpiacra.

Egyetemi szinten az oktatók országszerte már érezték az okostelefonok egy évtizede mindenütt jelen lévő rendkívüli hatását a ragyogó fiatal, fejlődő elmére. A diákok már akkor érkeztek, mert drámaian kevesebb könyvet olvastak, kevésbé tudtak összetett szöveget elemezni; és most az LLM-ek megjelenése mindent megváltoztatott. Természetesen mindig is így volt, hogy a diákok nem végeznek el minden rájuk bízott munkát. én abszolút nem. De ez más. Mindig nagyon lehetett esszét írni az Elveszett Paradicsomról anélkül, hogy elolvasta volna az Elveszett paradicsomot. Ez az első alkalom, hogy az Elveszett Paradicsomról esszét készíthet anélkül, hogy elolvasta volna az imént „írt” esszét. Ez az első alkalom a történelemben, hogy a mondatok mögött nem kell embernek lennie.

Paul Musgrave, a Georgetown Egyetem professzora írja Substack Systematic Hatreds című művében: „Általában támaszkodhatnánk arra, hogy a legtöbb diák megpróbálja elolvasni a legtöbb oldalt a legtöbb feladathoz – és megérteni az olvasottak hasonló hányadát. Kisebb kurzusoknál a kurzus megbeszéléseinek minőségi különbsége, ahol a hallgatók 70%-a az olvasottak 10%-a 10%-a olvasott el 50%-ot. az olvasmányok ugyanúgy nyilvánvalóak, mint a hideg kóla íze, mint a langyos köpés. Az előbbi nem chablis, de ízletesebb.

Sok diák szeretne ellenállni, de nagy a kísértés, és néhányan úgy érzik, hogy megbüntetik őket az őszinteségükért. Mondom a diákoknak, akikkel találkozom: képzeld el, hogy olimpiai sportoló vagy. Elhatároztad, hogy végigsprinteled a 3 km-t Londonon, Claphamtől Balhamig. Tudod, ha busszal utazol, gyorsabb lesz. De azt is tudod, hogy a lényeg soha nem volt Claphamben vagy Balhamben; nagyon hasonlóak: mindkettőjüknek van egy szép Pizza Expressze. Az erőt, amit felépítettél, a tested gyorsaságát és tudását szerezted meg. Egy diák Macbethről szóló esszéjének nincs értéke, mint atermék.Ez az, amit az olvasás és az írás során tanultál – az általad felépített gondolkodás gyorsasága, rugalmassága és rugalmassága, valamint az irodalmi csoda, valami gyors és összefoglalhatatlan dolog megszerzett tudása – ez volt a lényeg. Tehát nem lehet ugyanúgy együttműködni az AI-val, mint egy busszal. És nem lehet megtanulni gondolkodni a tények, ötletek és szövegek mászókerete nélkül, amelyekben mozogni kell.

De már nem tudjuk garantálni, hogy a diákok által nekünk adott munka saját elméjük szüleménye. Az Egyesült Királyság egyetemein dolgozó barátaim optimistán azt mondják nekem, hogy meg tudják mondani, mikor adnak be a hallgatóik mesterséges intelligencia által generált munkát. De szerintem nem tehetjük, nem csak írásos munkából; magamról csak abban vagyok biztos, hogy meg tudom állapítani, ha egy fiatal MI-t használrosszul. Egy barátom, aki matekot tanít egy londoni egyetemen, azt mondta nekem, hogy diákjai esszéket adnak be anélkül, hogy törölték volna a mesterséges intelligencia vidámságát: „Örülök, hogy segítek!” az elején. Nem kell Sherlock Holmesnak lenned. De úgy gondolom, hogy egy egy nap alatt megszerkesztett mesterséges intelligencia esszé eredetinek tűnhet, és egy olyan világban, amelyben a fiatalok rendkívüli stressznek vannak kitéve, nem kell megdöbbennünk, ha sokan engednek a kísértésnek. A tudományos körökben dolgozó kollégáim – különösen a jogászok, ahol a valódi megértés hiánya katasztrofális az igazságszolgáltatás szempontjából, valamint a filozófia és az angol, ahol maga a redukálhatatlan szöveg a lényeg – tele vannak haraggal politikai osztályunk tehetetlensége miatt. A képviselők nagyrészt hallgattak a független, merész és magabiztos gondolkodási képességünket fenyegető veszélyekről – ami végső soron a demokráciát fenyegeti.

Mi a válasz? Nem hiszem, hogy a szóbeli vivas és a heti vizsgák általánosan javasolt megoldásai jelentenék az egyedüli megoldást a bölcsészettudományokon, mert az esszé nem egy önkényes tesztelési vagy minősítési módszer: ez egy több száz éves módszergondolkodás. Írni nem csak az elme gondolatainak átírását jelenti; ez az átalakulás egy formája, egy születőben lévő, félig felépített gondolatot valami szilárdabbá, keményebbé, élesebbé alakít. EM Forster ezt írta: „Honnan tudhatom, mit gondolok, amíg nem látom, amit mondok?”

Nem tudom, mi a válasz, de azt tudom, hogy nem szabad feladni. A fiatal elme látványos dolog. Szépségének és erejének elpazarlása annak a bizalomnak a hanyagsága lenne, amelyet a fiataloktól az öregekbe vetettek. Ha a mesterséges intelligenciát a tanulás művészetébe vonjuk be, amikor elsöprő bizonyítékunk van arra, hogy milyen károkat okoz a fejlődő elméknek, azt jelenti, hogy kígyóolajjal etetjük meg azokat az embereket, akiket a legjobban becsülnünk kell. Már most is beszivárognak hamis mesterséges intelligencia-emberek a médiánkba: nem szabad megkockáztatnunk, hogy fiatalokat küldjünk a csak hamis tudással felvértezett kemény világba. Ugyanolyan sürgősen kell kezelnünk, mint egy futótüzet.

Sok fiatal van, akik dühösek amiatt, hogy a mesterséges intelligencia és a technológiai káosz beáramlik az életükbe, és megkérdezték tőlem az elmúlt évben:hogyan állunk ellen? Elmondom nekik, hogy szerintem a fiatalok számára a tudás és a képzelet együtt az ellenállás első helye. És azzal, hogy könyveket olvasnak (és arról beszélnek, amit szerettek olvasni, hogy abból közösséggé váljanak, ne pedig pusztán magánjellegűek), megkezdhessék a harcot.

Sokat beszélek az örömszerzésről; Máshol írtam arról, hogy szükség van az örömszerzésre az osztályteremben, és hogy miért nem opcionális extra, hanem az igazi oktatás fémjele. Meg kell találnunk a módját, hogy megmutassuk a gyerekeknek, hogy az olvasás az öröm kimeríthetetlen forrásához nyújt hozzáférést. De attól is tartok, hogy korlátozzuk az élvezet szó jelentését. A tanulás furcsa és kellemetlen élmény; ez egy küzdelem és egy frusztráció, és ritkán fordul elő epifánia. Ez nem mindig a legkönnyebb értelemben vett öröm.

Úgy gondolom, hogy a fiatalokkal is beszélnünk kell az olvasásról, hogy megelőzzük és leküzdjük az igazságtalanságot. Olvasás, hogy gyorsabb, gyorsabb és keményebb legyen; hogy fejlessze az ellenőrzés és a kritika képességét és a hatalmas kreatív képzelőerőt. Emberi munka olvasása, hogy ragaszkodjunk ahhoz, hogy emberek vagyunk. Olvasás a felszabadulásért és az emancipációért; olvasni a szellemi szabadságért, és hogy legyen erőnk harcolni az elme arénáin, mert amikor hagyjuk, hogy egy számítógép gondolkodjon helyettünk, fegyvert adunk a civilizáció fejéhez.

Sötét napok következnek. Ha fel akarunk küzdeni a felbecsülhetetlen anyagi gazdagsággal rendelkezők ellen, akkor felbecsülhetetlen szellemi gazdagságra lesz szükségünk. Kemény gondolkodású emberekre lesz szükségünk; kitartással, sokrétű tudással rendelkező emberek, akik képesek elég szélesre és messzire látni ahhoz, hogy valós időben megértsék, mit tesznek velünk. Az öröm és az élvezet olvasása létfontosságú – de mellette és még sürgetőbben: az olvasás a hatalomért.