Shedd sagði á fundi sínum í vikunni með starfsmönnum að ríkisstjórn Trump ætli sér að innleiða gervigreind í flesta opinbera þjónustu. Til þess að það gangi upp þurfi stjórnin að fá aðstoð til að komast inn á innri vef hins opinbera sem kallast login.gov svo hægt sé að koma upp gervigreind í kerfum sem varða til dæmis félagslegan stuðning. Gervigreindinni er ætlað að finna þá einstaklinga sem eru að misnota bótakerfið og koma þannig í veg fyrir svik.
Samkvæmt 404 Media má heyra á upptökunni að sumir starfsmenn hafi verið hikandi hvað verkefnið varðar þar sem óvíst væri hvort þetta væri yfir höfuð löglegt með tilliti til persónuverndarlaga.
Shedd virðist ekki hafa miklar áhyggjur af því og hvatti starfsmenn til að halda verkefninu til streitu og mögulega fengist heimild fyrir því í framtíðinni. Það væri þó seinni tíma vandi.
Shedd, sem áður starfaði sem hugbúnaðarverkfræðingur hjá bifreiðafyrirtæki Musk, Teslu, sagði starfsmönnum „Aðstæður eiga eftir að verða þungar“.
Hann lýsti því að stefna Trump-stjórnarinnar sé að draga verulega úr umfangi hins opinbera og það eigi að gera það fyrst og fremst með því að skipta starfsfólki út fyrir sjálfvirka ferla og gervigreind. Til þess að það gangi upp þurfi gervigreindin að komast í viðkvæmustu kerfi hins opinbera, innri vefinn sem í dag. Þessi vefur sé í dag tryggður með ýmsum öryggisaðgerðum sem Shedd vill að teymi sitt finni leið fram hjá.
„Ég er ekki að halda því fram að þetta verði auðvelt, en þetta er verðugt verkefni sem við getum aðeins framkvæmt saman sem innra teymi. Við getum ekki fengið þriðja aðila að borðinu, ráðið inn og fengið þá til að vinna að verkefni sem þessu. Það verður að vera okkar eigin tæknideild sem vinnur að þessu.“
Þá heyrist starfsmaður benda Shed á það að persónuverndarlög meini stofnunum að deila persónuupplýsingum einstaklinga án þeirra samþykkis.
„Þetta er ólöglegt verkefni.“
Shedd sagði að hugmyndin væri að fá þetta samþykki en þetta sé bara dæmi um hugsjón sem þarf að vinna með og skýra betur. „Ef við rekum okkur á vegg, þá rekum við okkur á vegg en við ættum samt að halda þessu til streitu og sjá hvað við getum gert.“
Til að setja þetta í samhengi fyrir Íslendinga mætti líklega líkja þessu við að starfshópur á vegum hins opinbera hér væri að sækjast eftir ótakmörkuðum aðgangi að island.is og allar þær upplýsingar um einstaka Íslendinga sem þar er að finna.
404 Media ræddi við sérfræðing í þessum málum í skjóli nafnleyndar og sá benti á að Shedd ætli sér að láta gervigreind um að forrita í viðkvæmum opinberum kerfum. Þetta sé stórhættulegt. Shedd sé að huga um opinbera þjónustu eins og um einkafyrirtæki sé að ræða. Það gildi þó önnur lögmál hjá hinu opinbera sem meðal annars þurfi að tryggja kerfi sín frá netárásum erlendra þjóða, tryggja persónuupplýsingar Bandaríkjamanna og tryggja að kerfin virki eins og þau eigi að gera. Með því að láta gervigreind sjá um þetta sé verið að bjóða hættunni heim.
Skemmst er að minnast þess hvað gerðist hjá einu stærsta tryggingafyrirtæki Bandaríkjanna UnitedHealthCare sem fékk gervigreind til að sjá um að meta mál viðskiptavina. Gervigreindin reyndist haldin óvæntum fordómum og neitaði gífurlegum fjölda tryggingataka um greiðslur fyrir nauðsynlega heilbrigðisþjónustu þegar þeir hefðu réttilega átt að fá samþykki. Eins stefndi fyrirtækið persónuupplýsingum viðskiptavina sinna í hættu sem kom í ljós þegar fyrirtækið varð fyrir netárás þar sem óprúttnir aðilar komust yfir gífurlegt magn af gögnum.
Eins ætli Shedd sér að þjálfa gervigreindina með öllum þeim fjölmörgu verktakasamningum sem bandaríska ríkið hefur gert við einkaaðila. Heimildarmaðurinn bendir á að þetta sé ógnvekjandi. Til dæmis hafi Elon Musk sjálfur gert samninga upp á milljarða Bandaríkjadala við hið opinbera. Eins það að Elon Musk er sjálfur að reka gervigreindarfyrirtæki.
Shedd fékk margar spurningar frá starfsmönnum TTS sem meðal annars gerðu athugasemd við það að á fundum undanfarið hafi skyndilega verið mættir ungir forritarar sem enginn kannist við. Shedd sagðist veigra sér við að upplýsa hvaða menn þetta eru þar sem hann óttast að nöfnum þeirra verði lekið út á samfélagsmiðlum. Hann gat eins ekki svarað spurningum um tilraunir Musk til að fá alríkisstarfsmenn til að segja starfi sínu lausu, hvort forritarar þurfi líka að hætta allri fjarvinnu og hvort fjármagn til TTS verði skorið niður. Einn starfsmaður spurði hvort ætlast væri til þess að starfsmenn vinni meira en 40 stundir á viku. Shedd svaraði að það væri óljóst.
