Sut mae Cymryd Ymagwedd Ofalgar at AI yn Torri i Lawr ar Setiau Data Rhagfarnllyd

Setiau Data Rhagfarnllyd ac AI Moesegol

Mae datrysiadau wedi'u pweru gan AI angen setiau data i fod yn effeithiol. Ac mae creu'r setiau data hynny yn llawn problem rhagfarn ymhlyg ar lefel systematig. Mae pawb yn dioddef o ragfarnau (yn ymwybodol ac yn anymwybodol). Gall y gogwyddiadau fod ar unrhyw nifer o ffurfiau: daearyddol, ieithyddol, economaidd-gymdeithasol, rhywiaethol a hiliol. Ac mae'r rhagfarnau systematig hynny yn cael eu pobi mewn data, a all arwain at gynhyrchion AI sy'n parhau ac yn chwyddo gogwydd. Mae angen dull ystyriol ar sefydliadau i liniaru rhag rhagfarn sy'n ymledu i setiau data.

Enghreifftiau sy'n Darlunio'r Broblem Rhagfarn

Un enghraifft nodedig o'r gogwydd set ddata hon a oedd yn dwyn llawer o wasg negyddol ar y pryd oedd datrysiad darllen ailddechrau a oedd yn ffafrio ymgeiswyr gwrywaidd dros fenywod. Mae hyn oherwydd bod setiau data'r offeryn recriwtio wedi'u datblygu gan ddefnyddio ailddechrau dros y degawd diwethaf pan oedd mwyafrif yr ymgeiswyr wedi bod yn ddynion. Roedd y data yn rhagfarnllyd ac roedd y canlyniadau'n adlewyrchu'r gogwydd hwnnw. 

Enghraifft arall a adroddwyd yn eang: Yng nghynhadledd flynyddol datblygwr Google I / O, rhannodd Google ragolwg o offeryn cynorthwyo dermatoleg wedi'i bweru gan AI sy'n helpu pobl i ddeall beth sy'n digwydd gyda materion sy'n ymwneud â'u croen, gwallt ac ewinedd. Mae'r cynorthwyydd dermatoleg yn tanlinellu sut mae AI yn esblygu i helpu gyda gofal iechyd - ond tynnodd sylw hefyd at y potensial i ragfarn ymgripio i mewn i AI yn sgil beirniadaeth nad yw'r offeryn yn ddigonol i bobl o liw.

Pan gyhoeddodd Google yr offeryn, nododd y cwmni:

Er mwyn sicrhau ein bod yn adeiladu i bawb, mae ein model yn cyfrif am ffactorau fel oedran, rhyw, hil a mathau o groen - o groen gwelw nad yw'n lliw haul i groen brown sy'n anaml yn llosgi.

Google, Defnyddio AI i helpu i ddod o hyd i atebion i gyflyrau croen cyffredin

Ond dywedodd erthygl yn Vice fod Google wedi methu â defnyddio set ddata gynhwysol:

I gyflawni'r dasg, defnyddiodd yr ymchwilwyr set ddata hyfforddi o 64,837 o ddelweddau o 12,399 o gleifion wedi'u lleoli mewn dwy wladwriaeth. Ond o'r miloedd o gyflyrau croen yn y llun, dim ond 3.5 y cant a ddaeth gan gleifion â mathau croen V a VI Fitzpatrick - y rhai sy'n cynrychioli croen brown a chroen brown tywyll neu ddu, yn y drefn honno. Roedd 90 y cant o'r gronfa ddata yn cynnwys pobl â chroen teg, croen gwyn tywyllach, neu groen brown golau, yn ôl yr astudiaeth. O ganlyniad i'r samplu rhagfarnllyd, dywed dermatolegwyr y gallai'r ap or-ddiagnosio neu dan-ddiagnosio pobl nad ydyn nhw'n wyn.

Is, ni Dyluniwyd Ap Dermatoleg Newydd Google ar gyfer Pobl â Croen Tywyllach

Ymatebodd Google trwy ddweud y byddai'n mireinio'r offeryn cyn ei ryddhau'n ffurfiol:

Mae ein teclyn cynorthwyo dermatoleg wedi'i bweru gan AI yn benllanw mwy na thair blynedd o ymchwil. Ers i'n gwaith gael sylw ym maes Meddygaeth Natur, rydym wedi parhau i ddatblygu a mireinio ein technoleg trwy ymgorffori setiau data ychwanegol sy'n cynnwys data a roddwyd gan filoedd o bobl, a miliynau o ddelweddau pryder croen mwy wedi'u curadu.

Google, Defnyddio AI i helpu i ddod o hyd i atebion i gyflyrau croen cyffredin

Yn gymaint ag y gallem obeithio y gallai rhaglenni AI a dysgu peiriannau gywiro ar gyfer y rhagfarnau hyn, erys y realiti: maent yr un mor smart gan fod eu setiau data yn lân. Mewn diweddariad i'r hen hysbyseb rhaglennu sothach i mewn / sothach allan, Nid yw datrysiadau AI ond mor gryf ag ansawdd eu setiau data o'r cychwyn cyntaf. Heb gywiriad gan raglenwyr, nid oes gan y setiau data hyn y profiad cefndir i drwsio eu hunain - gan nad oes ganddynt unrhyw ffrâm gyfeirio arall.

Mae adeiladu setiau data yn gyfrifol wrth wraidd pawb deallusrwydd artiffisial moesegol. Ac mae pobl wrth wraidd yr ateb. 

AI Meddwl yw AI Moesegol

Nid yw rhagfarn yn digwydd mewn gwagle. Daw setiau data anfoesegol neu ragfarnllyd o gymryd y dull anghywir yn ystod y cam datblygu. Y ffordd i frwydro yn erbyn gwallau rhagfarn yw mabwysiadu dull cyfrifol, sy'n canolbwyntio ar bobl, y mae llawer yn y diwydiant yn ei alw'n Mindful AI. Mae gan AI ystyriol dair cydran hanfodol:

1. Mae AI Meddwl yn Canolbwyntio ar y Dyn

O ddechrau'r prosiect AI, yn y camau cynllunio, rhaid i anghenion pobl fod wrth wraidd pob penderfyniad. Ac mae hynny'n golygu pawb - nid is-set yn unig. Dyna pam mae angen i ddatblygwyr ddibynnu ar dîm amrywiol o bobl fyd-eang i hyfforddi cymwysiadau AI i fod yn gynhwysol ac yn rhydd o ragfarn.

Mae torfoli'r setiau data gan dîm byd-eang, amrywiol yn sicrhau bod rhagfarnau'n cael eu nodi a'u hidlo'n gynnar. Gall y rhai o wahanol ethnigrwydd, grwpiau oedran, rhyw, lefelau addysg, cefndiroedd economaidd-gymdeithasol a lleoliadau nodi setiau data sy'n ffafrio un set o werthoedd dros set arall, a thrwy hynny chwynnu rhagfarn anfwriadol.

Cymerwch gip ar gymwysiadau llais. Wrth gymhwyso dull AI ystyriol, a defnyddio pŵer cronfa dalent fyd-eang, gall datblygwyr gyfrif am elfennau ieithyddol fel tafodieithoedd ac acenion gwahanol yn y setiau data.

Mae'n hollbwysig sefydlu fframwaith dylunio sy'n canolbwyntio ar bobl o'r dechrau. Mae'n mynd yn bell tuag at sicrhau bod y data sy'n cael ei gynhyrchu, ei guradu a'i labelu yn cwrdd â disgwyliad y defnyddwyr terfynol. Ond mae hefyd yn bwysig cadw bodau dynol yn y ddolen trwy gydol y cylch bywyd datblygu cynnyrch cyfan. 

Gall bodau dynol yn y ddolen hefyd helpu peiriannau i greu profiad AI gwell ar gyfer pob cynulleidfa benodol. Yn Pactera EDGE, mae ein timau prosiect data AI, sydd wedi'u lleoli'n fyd-eang, yn deall sut y gall gwahanol ddiwylliannau a chyd-destunau effeithio ar gasglu a churadu data hyfforddi AI dibynadwy. Mae ganddyn nhw'r offer angenrheidiol i dynnu sylw at broblemau, eu monitro, a'u trwsio cyn i ddatrysiad sy'n seiliedig ar AI fynd yn fyw.

Mae AI dynol-yn-y-dolen yn “rwyd ddiogelwch” prosiect sy'n cyfuno cryfderau pobl - a'u cefndiroedd amrywiol â phwer cyfrifiadurol cyflym peiriannau. Mae angen sefydlu'r cydweithrediad dynol ac AI hwn o ddechrau'r rhaglenni fel nad yw data rhagfarnllyd yn sylfaen yn y prosiect. 

2. Mae AI Ymwybodol yn Gyfrifol

Bod yn gyfrifol yw sicrhau bod systemau AI sy'n rhydd o ragfarnau a'u bod wedi'u seilio ar foeseg. Mae'n ymwneud â bod yn ystyriol o sut, pam, a ble mae data'n cael ei greu, sut mae'n cael ei syntheseiddio gan systemau AI, a sut mae'n cael ei ddefnyddio wrth wneud penderfyniad, penderfyniadau a all fod â goblygiadau moesegol. Un ffordd i fusnes wneud hynny yw gweithio gyda chymunedau heb gynrychiolaeth ddigonol i fod yn fwy cynhwysol a llai rhagfarnllyd. Ym maes anodiadau data, mae ymchwil newydd yn tynnu sylw at sut y gall model aml-dasg aml-anod sy'n trin labeli pob anodwr fel subtask ar wahân helpu i liniaru materion posibl sy'n gynhenid ​​mewn dulliau gwirionedd daear nodweddiadol lle gallai anghytundebau anodi fod o ganlyniad i dan-gynrychioliadau a yn gallu cael ei anwybyddu wrth agregu anodiadau i un gwirionedd daear. 

3. Dibynadwy

Daw dibynadwyedd o fod busnes yn dryloyw ac yn eglur o ran sut mae'r model AI wedi'i hyfforddi, sut mae'n gweithio, a pham maen nhw'n argymell y canlyniadau. Mae angen arbenigedd ar fusnes gyda lleoleiddio AI i'w gwneud hi'n bosibl i'w gleientiaid wneud eu cymwysiadau AI yn fwy cynhwysol a phersonol, gan barchu naws beirniadol mewn iaith leol a phrofiadau defnyddwyr a all wneud neu dorri hygrededd datrysiad AI o un wlad i'r llall. . Er enghraifft, dylai busnes ddylunio ei gymwysiadau ar gyfer cyd-destunau wedi'u personoli a lleol, gan gynnwys ieithoedd, tafodieithoedd ac acenion mewn cymwysiadau sy'n seiliedig ar lais. Y ffordd honno, mae ap yn dod â'r un lefel o soffistigedigrwydd profiad llais i bob iaith, o'r Saesneg i ieithoedd heb gynrychiolaeth ddigonol.

Tegwch ac Amrywiaeth

Yn y pen draw, mae AI ystyriol yn sicrhau bod atebion yn cael eu hadeiladu ar setiau data teg ac amrywiol lle mae canlyniadau ac effaith canlyniadau penodol yn cael eu monitro a'u gwerthuso cyn i'r datrysiad fynd i'r farchnad. Trwy fod yn ystyriol a chynnwys bodau dynol ym mhob rhan o ddatblygiad yr ateb, rydym yn helpu i sicrhau bod modelau AI yn cadw'n lân, cyn lleied â phosibl o ragfarn, ac mor foesegol â phosib.

Beth ydych chi'n feddwl?

Mae'r wefan hon yn defnyddio Akismet i leihau sbam. Dysgwch sut mae eich data sylwadau yn cael ei brosesu.