Hætti hjá Google til að vara við hættu af gervigreind Kjartan Kjartansson skrifar 2. maí 2023 11:55 Spjallyrki sem stór tæknifyrirtæki hafa afhjúpað nýlega þykja sláandi góð í að framleiða texta. Sumir óttast nú uppgang gervigreindar og telja hana jafnvel tilvistarlega ógn við mannkynið. Vísir/Getty Frumkvöðull í gervigreind segist hafa sagt starfi sínu hjá tæknirisanum Google lausu til þess að geta tjáð sig óheft um þær hættur sem hann telur að fylgi tækninni. Hann segist hafa gert sér grein fyrir að tölvur gætu orðið greindari en menn mun fyrr en hann taldi. Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton. Bandaríkin Tækni Gervigreind Google Athugið. Vísir hvetur lesendur til að skiptast á skoðunum. Allar athugasemdir eru á ábyrgð þeirra er þær rita. Lesendur skulu halda sig við málefnalega og hófstillta umræðu og áskilur Vísir sér rétt til að fjarlægja ummæli og/eða umræðu sem fer út fyrir þau mörk. Vísir mun loka á aðgang þeirra sem tjá sig ekki undir eigin nafni eða gerast ítrekað brotlegir við ofangreindar umgengnisreglur. Mest lesið Matvöruverslun og íbúðir steinsnar frá Keflavíkurflugvelli Viðskipti innlent Krökkunum finnst hálf hallærislegt að mamman kunni Friends þættina utan að Atvinnulíf Dýrmætustu og sjaldgæfustu Mustang bílar landsins á afmælissýningu Mustang Samstarf Þarf að greiða kortareikninginn og meira til í málskostnað Neytendur Mun bjóða upp á sömu flugáætlun og Bláfugl áður Viðskipti innlent Krónísk óstundvísi: Skýringar og góð ráð Atvinnulíf Viljinn tekinn til gjaldþrotaskipta Viðskipti innlent Tekjur Apple drógust saman enn eina ferðina Viðskipti erlent Röntgen Domus og Orkuhúsið fá ekki að sameinast Viðskipti innlent Stofnandi Binance dæmdur fyrir peningaþvætti Viðskipti erlent Fleiri fréttir Tekjur Apple drógust saman enn eina ferðina Stofnandi Binance dæmdur fyrir peningaþvætti Sagðir vilja frekar loka TikTok en selja Sækjast eftir fangelsisdómi yfir rafmyntakóngi Mikill samdráttur á hagnaði Tesla Ný kynslóð vélmenna vekur óhug Ólígarkar unnu mál vegna refsiaðgerða fyrir Evrópudómstól Gervigreind Amazon reyndist þúsund Indverjar Rekja meirihluta heimslosunar til 57 framleiðenda Í basli með viðhald og viðgerðir á olíuvinnslum Taylor Swift meðal 265 nýliða á milljarðamæringalista Forbes Wow lifir enn góðu lífi í undraheimi Roosevelt Edwards Sjá meira
Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton.
Bandaríkin Tækni Gervigreind Google Athugið. Vísir hvetur lesendur til að skiptast á skoðunum. Allar athugasemdir eru á ábyrgð þeirra er þær rita. Lesendur skulu halda sig við málefnalega og hófstillta umræðu og áskilur Vísir sér rétt til að fjarlægja ummæli og/eða umræðu sem fer út fyrir þau mörk. Vísir mun loka á aðgang þeirra sem tjá sig ekki undir eigin nafni eða gerast ítrekað brotlegir við ofangreindar umgengnisreglur. Mest lesið Matvöruverslun og íbúðir steinsnar frá Keflavíkurflugvelli Viðskipti innlent Krökkunum finnst hálf hallærislegt að mamman kunni Friends þættina utan að Atvinnulíf Dýrmætustu og sjaldgæfustu Mustang bílar landsins á afmælissýningu Mustang Samstarf Þarf að greiða kortareikninginn og meira til í málskostnað Neytendur Mun bjóða upp á sömu flugáætlun og Bláfugl áður Viðskipti innlent Krónísk óstundvísi: Skýringar og góð ráð Atvinnulíf Viljinn tekinn til gjaldþrotaskipta Viðskipti innlent Tekjur Apple drógust saman enn eina ferðina Viðskipti erlent Röntgen Domus og Orkuhúsið fá ekki að sameinast Viðskipti innlent Stofnandi Binance dæmdur fyrir peningaþvætti Viðskipti erlent Fleiri fréttir Tekjur Apple drógust saman enn eina ferðina Stofnandi Binance dæmdur fyrir peningaþvætti Sagðir vilja frekar loka TikTok en selja Sækjast eftir fangelsisdómi yfir rafmyntakóngi Mikill samdráttur á hagnaði Tesla Ný kynslóð vélmenna vekur óhug Ólígarkar unnu mál vegna refsiaðgerða fyrir Evrópudómstól Gervigreind Amazon reyndist þúsund Indverjar Rekja meirihluta heimslosunar til 57 framleiðenda Í basli með viðhald og viðgerðir á olíuvinnslum Taylor Swift meðal 265 nýliða á milljarðamæringalista Forbes Wow lifir enn góðu lífi í undraheimi Roosevelt Edwards Sjá meira