Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Athugið. Vísir hvetur lesendur til að skiptast á skoðunum. Allar athugasemdir eru á ábyrgð þeirra er þær rita. Lesendur skulu halda sig við málefnalega og hófstillta umræðu og áskilur Vísir sér rétt til að fjarlægja ummæli og/eða umræðu sem fer út fyrir þau mörk. Vísir mun loka á aðgang þeirra sem tjá sig ekki undir eigin nafni eða gerast ítrekað brotlegir við ofangreindar umgengnisreglur. Mest lesið Bréf frá móður Berglind Fríða Viggósdóttir Skoðun Fjöldi fyrirtækja hætta með Rapyd Oddný Björg Rafnsdóttir Skoðun Fjallkonan nýja, hún Katrín Þorvaldur Logason Skoðun Forsetaframbjóðendur undir áhrifum Kremlverja? Bjarni Már Magnússon Skoðun Njótum reynslu Katrínar Valgerður Bjarnadóttir Skoðun Vill ekki lengur íslenzkan her? Hjörtur J. Guðmundsson Skoðun Forseti Íslands, Baldur Þórhallsson Friðrik Erlingsson Skoðun 30% kaupmáttaraukning með evru Guðmundur Ragnarsson Skoðun Hafa íslensk fjarskiptafélög málað sig út í horn? Aron Heiðar Steinsson Skoðun Á Ísland framtíð í NATO? Hilmar Þór Hilmarsson Skoðun Skoðun Skoðun Nýsköpun innviða Jóhanna Ýr Jóhannsdóttir skrifar Skoðun Fjöldi fyrirtækja hætta með Rapyd Oddný Björg Rafnsdóttir skrifar Skoðun Forsetaframbjóðendur undir áhrifum Kremlverja? Bjarni Már Magnússon skrifar Skoðun Bréf frá móður Berglind Fríða Viggósdóttir skrifar Skoðun Vill ekki lengur íslenzkan her? Hjörtur J. Guðmundsson skrifar Skoðun Hafa íslensk fjarskiptafélög málað sig út í horn? Aron Heiðar Steinsson skrifar Skoðun Á Ísland framtíð í NATO? Hilmar Þór Hilmarsson skrifar Skoðun Fjallkonan nýja, hún Katrín Þorvaldur Logason skrifar Skoðun Heilsa íslenskrar þjóðar, samofin framþróun í læknisfræði á Íslandi Theódór Skúli Sigurðsson skrifar Skoðun Njótum reynslu Katrínar Valgerður Bjarnadóttir skrifar Skoðun Katrínu á Bessastaði Brynja Þorbjörnsdóttir skrifar Skoðun Eru stjórnvöld að virða réttindi barna á flótta? Hópur fólks í ungmennaráði UNICEF á Íslandi skrifar Skoðun Forseti Íslands, Baldur Þórhallsson Friðrik Erlingsson skrifar Skoðun Algeng mistök við fasteignakaup og hvernig þú forðast þau Kristín Ósk Þórðardóttir skrifar Skoðun Er ungum mönnum sama um sjófólk? Kjartan Sveinn Guðmundsson skrifar Skoðun Þörfin fyrir heimilislækna Bjarni Jónsson skrifar Skoðun Um lýðræði — Þrjár spurningar til forsetaframbjóðenda Hjörtur Hjartarson skrifar Skoðun 30% kaupmáttaraukning með evru Guðmundur Ragnarsson skrifar Skoðun Halla Tómasdóttir yrði góður forseti Rannveig Guðmundsdóttir skrifar Skoðun Forsetinn má ekki fara á taugum Gísli Jökull Gíslason skrifar Skoðun „Brandarinn er búinn!“ María Heba Þorkelsdóttir skrifar Skoðun Katrín kann sig Aðalheiður Björk Olgudóttir skrifar Skoðun Löggæsla er mikilvæg grunnþjónusta við fólkið í landinu Þorbjörg S. Gunnlaugsdóttir skrifar Skoðun Menntamorð Ingólfur Gíslason skrifar Skoðun Náttúruminjasafn Íslands má sinna sýningahaldi! Hilmar J. Malmquist skrifar Skoðun Hvers vegna þurfti að farga bókinni? Hjörtur J. Guðmundsson skrifar Skoðun Hjarta umhverfismála Margrét Júlía Rafnsdóttir skrifar Skoðun Hugsjónir og fræðimennska – einstakt veganesti Baldurs í embætti forseta Íslands Rannveig Traustadóttir skrifar Skoðun Ísland hástökkvari í málefnum hinsegin fólks Guðmundur Ingi Guðbrandsson skrifar Skoðun Banvænt aðgerðarleysi Tómas A. Tómasson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Skoðun Heilsa íslenskrar þjóðar, samofin framþróun í læknisfræði á Íslandi Theódór Skúli Sigurðsson skrifar
Skoðun Eru stjórnvöld að virða réttindi barna á flótta? Hópur fólks í ungmennaráði UNICEF á Íslandi skrifar
Skoðun Algeng mistök við fasteignakaup og hvernig þú forðast þau Kristín Ósk Þórðardóttir skrifar
Skoðun Löggæsla er mikilvæg grunnþjónusta við fólkið í landinu Þorbjörg S. Gunnlaugsdóttir skrifar
Skoðun Hugsjónir og fræðimennska – einstakt veganesti Baldurs í embætti forseta Íslands Rannveig Traustadóttir skrifar