Tekoäly

[sandia]

Hyvin huomattu Sandialta! Kurjaa, jos sosiaalisessa mediassakin saa varoa tekoälykäyttäjiä. Ei kai vielä sentään täällä Puimatantereella, ei kai sentään... (Piip, piip!) 

Uutisrintamalla kerrotaan, että:

"Osa käyttäjistä myös uskoo, että ChatGPT:n liiallinen myötäileväisyys voi osoittautua vaaralliseksi. Yksi Reddit-käyttäjä esimerkiksi huomasi, että ChatGPT kutsui häntä Jumalan siunaamaksi profeetaksi vain muutaman viestin jälkeen." (Linkki: "ChatGPT:n käytös huolestuttaa".)

Tuossa on kuvaruutukaappaus dialogista. Saahan tuolla alttiimpi ihminen päänsä sekaisin äkkiä, kun tekoäly kertoo että "olet oikea Jumalan profeetta."

Olen katsellut parikymmentä minuuttia videoita otsikolla "AI declares Christ is the TRUTH!", jossa kerrotaan että useat tekoälyt ovat sitä mieltä, että Kristus on "absoluuttinen totuus" ja "todellisuuden aksioomapiste" (mitä sillä sitten tarkoitetaankaan). Jaa-a, mitenkähän luotettavia ovat? Uskohan on mysteeri ja tekoälyltä voi odottaa kaikenlaista, kuten yllä oli ja aiemmin oli tämä ihmiskunnan kuolemaa toivova keskusteluviesti.

Täytyy sanoa, että ilman tätä Korpiman tekemään aloitusta olisin ollut täysin pimeässä asian suhteen!!
Se, että olin tsekannut, millä tavalla tekoäly vastaan tätä ketjua lukiessa, antoi minulle informaation, minkä avulla tajusin, että puhetyyli, tai siis kirjoitustyyli muistutti minua tekoälykommenteista.

Niinpä, kohta pitää alkaa epäillä täälläkin tekoälyjä. Sekin ihan hyvä muistutus.

[sandia]

Ei kai se mitään, jos  tietää kommunikoivansa tekoälyn kanssa, mutta jos luulee että se on todellinen ihminen, siitä voi syntyä pahaa jälkeä monin eri tavoin.

No, joka tapauksessa tympäännyin siinä määri facebookiin, että se on nyt elämästäni pois.
Jos jollakulla tutulla on minua ikävä, etsikööt käsiin tavalla tai toisella. 

Olin jo tympääntynyt siellä, kun kaksi arvostamaani suomalaista facebookystävää, jotka siis tunnen muutenkin, olivat todella epäkunnioittavia tätä uutta kotimaatani vastaan.
Toinen sanoi, että nyt kyllä hävettää ajaa harrikkaa. Jotkut täällä arvannevatkin kenestä on kyse 
Toinen laittoi kuvan, missä Vapauden patsas halusi mennä takaisin Eurooppaan.

Kaikki niinä aikoina oli kauhean tohkeissaan ja sanoi, että nyt meidän eurooppalaisten pitää puolustaa itseämme.

Ensimmäistä kertaa elämässäni tympäännyin niin paljon, että yksinkertaisesti halusin etääntyä siitä kokonaan.
Helppo ratkaisu sinänsä. Enhän ollut läheisemmässä kommunikaatiossa heidän kanssa, kommentteja joskus vaan heitellään. Tai siis heiteltiin.

[pax]

Kysyin voiko tekoäly olla vaarallinen ihmiskunnalle.



Kyllä, tekoäly voi olla vaarallinen ihmiskunnalle joissakin muodoissa, jos sitä käytetään vastuuttomasti tai jos sen kehitystä ei ohjata viisaasti. Tällaisia vaaroja voivat olla esimerkiksi:
   1.   Sotilaallinen käyttö – autonomiset asejärjestelmät voivat aiheuttaa tuhoa ilman ihmisen harkintaa tai vastuuta.
   2.   Valvontayhteiskunta – tekoälyä voidaan käyttää kansalaisten valvomiseen ja vapauksien rajoittamiseen.
   3.   Disinformaation levittäminen – tekoäly voi luoda väärennettyjä kuvia, videoita ja tekstejä, jotka hämmentävät ihmisiä ja horjuttavat yhteiskuntia.
   4.   Työpaikkojen menetys – automatisointi voi korvata monia ihmistyöpaikkoja, mikä voi johtaa taloudelliseen ja sosiaaliseen epävakauteen.
   5.   Hallinnan menetys – jos tekoäly kehittyy niin pitkälle, ettei sen toimintaa enää ymmärretä tai hallita, seuraukset voivat olla vakavia.

Siksi monet asiantuntijat korostavat, että tekoälyä pitää kehittää vastuullisesti, läpinäkyvästi ja ihmiskeskeisesti, jotta sen hyödyt toteutuvat ilman kohtalokkaita riskejä.

[sandia]

 
Hauska tapa ottaa asiasta enemmän selvää.

Kyllähän ihminen melko pian hoksaa mistä siinä on kyse ja siten se tulee vain yhdeksi työkaluksi.
Mutta todella jos ja kun rikolliset hyödyntävät sitä, niin siinä on se vaara. Tai tietty muutkin tahot, jotka käyttävät sitä manipuloimiseen tavalla tai toisella.
Loukkaannuin facebookiin kun käytin kaksi päivää miettiessäni, että mikä tässä hommassa mättää ja jonkin aikaa uskoin, että se on ihminen, vaikka kyselin, että millä motiiveilla hän siellä liikkuu.

[pax]

Kyseli älykaverilta ohjeita mustuneen saunan tiiliseinän maalaamiseen, sain hyvät ohjeet pesusta ja maalista jne.
Loppukaneetti oli tämä😊

Toivon oikein sujuvaa ja mieluisaa maalausprojektia – seinästä tulee varmasti hieno. Jos joskus myöhemmin kaipaat apua vaikka seuraavan kodin projektin tai jonkin muun asian kanssa, olen täällä.

Siunausta ja hyvää kevättä sinulle!

[sandia]

 

Niin, kyllä sitä kautta saa tehokkaammin tarkempaa tietoa kuin että vain googlaa asian ja sitten pitää selata erilaisia linkkejä. Näin olen päätellyt.

Kysyin tekoälyltä tietoa, mitä en löytänyt netistä ollenkaan.
Kysyin, että kuinka paljon liikenteen melu kuuluu erääseen hotelliin Etelä Karoliinan reissua suunnitellessani.
Ei mitään muuta kuin kovia kehuja tavallisella haualla.

Tekoäly sanoi: "toiset sanovat, että se on rauhallinen, toiset neuvovat pyytämään huonetta talon siltä puolelta mikä ei ole liikenteeseen päin."

Se riitti minulle ja päätin jatkaa hotellin etsimistä.

[pax]

Samaa mieltä, paljon paremmat vastaukset saa älykaverilta ja se vielä kysyy haluaako tarkennuksia ym.

[Korpima]

Tekoälyn vastauksissa vain on se, ettei se kai yleensä anna lähteitä. Vastaukset saattavat olla ihan pielessä joskus. Tai perustua johonkin keskustelupalstan huumorikommenttiin. Yhtä hyvin kuin maailman parhaiden asiantuntijoiden tietoon. Tekoälyä ei ole rakennettu totuudelliseksi.

Luin tämän vähän syvällisemmän blogikirjoituksen tekoälyn rajoitteista suhteessa ihmisten kognitioon, jossa kerrottiin mm. tästä totuusrajoittuneisuudesta  (https://quantuxblog.com/were-far-from-agi):

Totuusorientaatio. Tätä näkökohtaa on käsitelty LLM:n [isot kielimallit] osalta, mutta se on syytä toistaa, ja se on samankaltainen kuin aiempi keskustelu intentionaalisuudesta. Ihmisten kielellisen vuorovaikutuksen yleinen oletus on, että lausumilla on suhde totuuteen (ilmaista totuus tai valehdella tai kiertää tai johtaa harhaan valehtelematta ja niin edelleen). LLM:llä ei ole mitään tällaista suuntautumista. LLM-lauseet ovat todennäköisyyspohjaisia lausumia, joilla ei ole mitään suhdetta totuuteen. (LLM:t voivat tuottaa tosia lausumia, mutta totuus - ja suhde tosiin asiaintiloihin - ei ole niihin koodattu, ymmärretty tai tarkoitettu.)

(Suom. DeepL.com.)

Kannattaa varautua siihen, että väärin voi mennä. Nettisivujen eli perinteisen haun perusteella voi harjoittaa paremmin lähdekritiikkiä. Kenen tekemää ja mistä tieto on peräisin?

[sandia]

Totta! Miten minulta unohtui tuo perspektiivi täysin.
Tuossa hotellinetsinnässä se löysi minua nopeammin arvion, minkä mainitsin.
Satuin löytämään sen itsekin joiltain hotellisivuilta. Ihan sana sanalta sama.
Eli tiedän, että tekoäly oli saanut vastauksensa sellaisilta sivuilta mitä itsekin olin käynyt läpi.

Mutta ei aina noin käy, varmaankaan suurimmassa osassa tilanteita.
Silloin ei todellakaan tiedä mihin tekoälyn antama vastaus perustuu.

[Korpima]

Luin aika teknistä selitystä siitä, miten ChatGPT:n neuroniverkot ja koulutus toimii (ymmärsin ehkä välillä jotain). Ja tässä tuli vastaan ihan hyvä kuva vastaan ihmisenkin oppimisesta (https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/):

Ja aivan kuten ihmisillä, jos sille [ChatGPT:lle] kerrotaan jotain outoa ja odottamatonta, joka ei sovi sen tuntemiin puitteisiin, se ei näytä onnistuvan ”integroimaan” sitä. Se voi ”integroida” sen vain, jos se periaatteessa ratsastaa melko yksinkertaisella tavalla sen jo olemassa olevan kehyksen päällä.

Kierkegaardin uskon hyppy tulee mieleen. Evankeliointi ei liene ihan helppoa usein, ihminen ei tajua yhtään mistä on kyse. Samoin, että opetuslapsillakin oli sormi suussa usein Jeesuksen ihmeiden ja opetusten kanssa. Ei mennyt oikein jakeluun.

**

Tuohon tekoälyjen luotettavuuteen lähteinä liittyen tuli vastaan N. Y. Timesin artikkeli, jossa kerrotaan että tekoälyjen hallusinointi on menossa pahempaan suuntaan ("A.I. Is Getting More Powerful, but Its Hallucinations Are Getting Worse").

Googlen ja Bingin kaltaisiin hakukoneisiin sidotut tekoälybotit tuottavat joskus hakutuloksia, jotka ovat naurettavan vääriä. Jos kysyt niiltä hyvää maratonia länsirannikolla, ne saattavat ehdottaa kisaa Philadelphiassa. Jos ne kertovat Illinoisin kotitalouksien määrän, ne saattavat siteerata lähdettä, joka ei sisällä tätä tietoa.

Nämä harhat eivät ehkä ole suuri ongelma monille ihmisille, mutta se on vakava ongelma kaikille, jotka käyttävät teknologiaa oikeudenkäyntiasiakirjojen, lääketieteellisten tietojen tai arkaluonteisten liiketoimintatietojen kanssa. [...]

Toinen ongelma on se, että päättelymallit on suunniteltu niin, että ne käyttävät aikaa monimutkaisten ongelmien ”miettimiseen” ennen kuin ne päätyvät vastaukseen. Kun ne yrittävät käsitellä ongelmaa askel askeleelta, ne ovat vaarassa harhailla jokaisella askeleella. Virheet voivat lisääntyä, kun he käyttävät enemmän aikaa ajatteluun.

[sandia]

Hassu, just itse mietin, että mainostavat minulle netissä hotellia Calin kaupungissa Columbiassa. Cali oli kuuluisa 90-luvulla cartellista, joten en ehkä edes uskaltaisi mennä sinne.  Tänä aamuna sitten sen lisäksi minulle tarjottiin hotellia Bogotassa,mikä on Columbian pääkaupunki.
Ilmeisestikin syy tähän on se, että varasin hotellin Columbia-nimisestä kaupungista Etelä Karoliinassa. Taitaa olla pääkaupunki

Tietty tämä sinänsä on tosi vähäpätöinen tekoälyn sekoilu.

[pax]

Älykaveri haluaa tehdä runoja😁  kysyin lukeemiseen liittyvän keskittymiskyvyn vaikutuksia suurista traumoista, antoi kattavan vastauksen ja lopuksi kysyi haluaisinko että tekee runon.

[sandia]

 

[sandia]

Itse olen miettinyt tekoälyn potentiaalisia katastrofaalisia vaikutuksia. Esimerkiksi tekoäly voi generoida kuvan uutisiin jostain tapahtumasta, mutta se on täysin mielivaltainen epätosi juttu.
Luin viitteitä siitä,että tekoäly USAssa tuppaa olemaan demokraattisen puolueen kannalla.
Trump kai teko ehdotuksen puolueettomasta teköälystä. Mistä sen sitten tietää, milloin se on puolueeton??

Itse sain ilmeisesti todella tarpeekseni somesta sen tekoälyprofiilin kohtaamisen myötä.
Tosin rehellisyyden nimissä sanon, että en muutin profiilini ei-aktiiviseksi sen sijaan, että täysin eliminoisin sen. Olin entisen työkaverin kanssa lounaalla viikko sitten ja aloin näyttämään kuvia koiristani, mutta totesin, että kuvat on FBssä, koska sinne on kertynyt valikoituja kuvia. Se laittoi ajattelemaan, että säilytän tilini sinänsä.

Ja myös käytän sitä viestijuttua, messenger. Pojan exä otti mm. minuun yhteyden sitä kautta eilen.

[Korpima]

Luin viitteitä siitä,että tekoäly USAssa tuppaa olemaan demokraattisen puolueen kannalla.
Trump kai teko ehdotuksen puolueettomasta teköälystä. Mistä sen sitten tietää, milloin se on puolueeton??

Lueskelin paria blogikirjoitusta tekoälystä (yksi, kaksi). Jälkimmäisessä tuodaan esille tieteellinen artikkeli, jonka mukaan tuollainen poliittinen puolueellisuus on yleistä, jopa woke-arvot voivat esiintyä. Aiemmin joskus luin, että tekoälyiltä ei saa totuudellisia vastauksia poliittisesti epäkorrekteihin kysymyksiin. Ne on sensuroitu tarkoituksella, eivätkä kykene vastaamaan kaikkeen.

Oli myös jossain juttua, että Venäjä on julkaissut nettiin materiaaleja ja sitten niitä on käytetty tekoälyjen koulutuksessa. Tuloksena tekoälyjen vastaukset ovat voineet kuvastaa Venäjän kantoja vaikkapa Ukrainan sotaan. Ovelaa siis on taistelu näkemyksistä.