AKTUALNOMagazin

Airbnbjev UI je gosta lažno obsodil in mu zaračunal 7000 dolarjev

Airbnb, vodilna svetovna platforma za kratkoročno oddajanje nepremičnin, je v drugem četrtletju poslovnega leta dosegla izjemne rezultate. Prihodki so se v primerjavi z enakim obdobjem lani povečali za 16,5 odstotka na 3,6 milijarde dolarjev, čisti dobiček pa je znašal 816 milijonov dolarjev. Podjetje je preseglo napovedi pri vseh ključnih kazalnikih, pri čemer so pomembno vlogo odigrala vlaganja v umetno inteligenco.

Kot so sporočili iz podjetja, so Airbnb preoblikovali v podjetje, ki temelji na umetni inteligenci. “Umetna inteligenca v kombinaciji z dobro ekipo in boljšo izvedbo je razlog, da razvijamo in izboljšujemo svoje storitve hitreje kot kadarkoli prej,” so zapisali. Na ključnih projektih so čas od zamisli do izvedbe skrajšali za kar 60 odstotkov, število izdanih funkcij in izboljšav pa se je v primerjavi z lanskim letom povečalo za skoraj 80 odstotkov.

Kako Airbnb uporablja umetno inteligenco?

Podjetje uvaja UI orodja na več področjih. Za goste UI modeli samodejno povzemajo ključne informacije iz opisov in ocen namestitev, pozneje pa bodo omogočili tudi primerjavo med domovi. Za gostitelje pripravljajo UI orodja za lažje ustvarjanje oglasov in razumevanje cenovnih priložnosti. V prihodnosti napovedujejo tudi nov UI model za dinamično oblikovanje cen, ki bo upošteval podatke o hotelskih cenah, dogodkih in predčasnih rezervacijah.

Najvidnejši preboj pa je na področju podpore uporabnikom. UI pomočnik, ki trenutno podpira več kot 50 jezikov, danes reši skoraj 45 odstotkov težav brez posredovanja človeškega agenta. To je podjetju v drugem četrtletju omogočilo 16-odstotno znižanje stroškov podpore na posamezno rezervacijo. Vodstvo verjame, da bo UI v enem letu obravnaval več kot 30 odstotkov vseh podpornih zahtevkov po vsem svetu.

K rekordom pripomoglo tudi svetovno prvenstvo

K močnim rezultatom je pripomoglo tudi nedavno svetovno prvenstvo v nogometu, ki so ga gostile ZDA, Mehika in Kanada. Na platformi je bilo na novo objavljenih več kot 150.000 namestitev v gostiteljskih mestih, bivanja med prvenstvom pa so gostiteljem prinesla skupno več kot 100 milijonov dolarjev prihodkov.

Negativne posledice zamenjave strokovne človeške pomoči z umetno inteligenco

Kljub impresivnim poslovnim rezultatom pa hitro uvajanje umetne inteligence na področju storitev, ki so jih doslej opravljali ljudje, prinaša številne negativne posledice, ki jih velja izpostaviti.

  1. Izguba delovnih mest in kadrovska praznina

Airbnb že nadomešča človeške agente z UI. Kot je priznal izvršni direktor Brian Chesky, UI pomočnik že obravnava približno tretjino podpornih zahtevkov v Severni Ameriki. Podjetje odkrito govori o zniževanju stroškov in izboljšanju učinkovitosti, kar implicitno pomeni manjšo potrebo po človeški delovni sili. Paradoksalno pa je Chesky hkrati posvaril pred pretiranim nadomeščanjem začetniških položajev z UI, saj bi podjetja v naslednjem desetletju lahko ostala brez kadrov, ki bi jih bilo mogoče razvijati v voditelje.

  1. Algoritemska pristranskost in neenakost

Raziskave so pokazale, da so lahko algoritmi, tudi če so zasnovani nevtralno, vir pristranskosti. Študija o Airbnbjevem cenovnem algoritmu je razkrila, da je ta kljub namenski zasnovi povečal prihodkovni razkorak med belopoltimi in temnopoltimi gostitelji. Algoritem je bil treniran na podatkih, kjer so bili temnopolti gostitelji premalo zastopani, družbene predsodke pa se je prenašala tudi v povpraševanje, najemniki so bili za namestitve temnopoltih gostiteljev pripravljeni plačati manj. Podobne pristranskosti so bile ugotovljene tudi v sistemih priporočil, kjer imajo manjši gostitelji zaradi delovanja algoritmov slabšo prepoznavnost.

  1. Napačne odločitve in pomanjkanje človeške presoje

Umetna inteligenca, čeprav hitra in stroškovno učinkovita, je lahko tudi vir resnih napak, ki jih človeški strokovnjak ne bi storil. Konkreten primer se je zgodil na Airbnbju, ko je UI sistem za podporo uporabnikom na podlagi z umetno inteligenco ustvarjenih (lažnih) fotografij napačno obsodil gosta in mu naložil plačilo 7053 dolarjev odškodnine.

Šele po človeškem pregledu so ugotovili, da so bile fotografije poškodb ponarejene z UI. Podobne težave se pojavljajo tudi pri UI sistemih za pregledovanje ocen, ki so nepravično odstranjevali veljavne ocene zvestih gostov, ker jih je algoritem zmotno označil za sorodnike.

  1. Izguba kakovosti storitve

Čeprav podjetja radi poudarjajo učinkovitost UI, pa izkušnje kažejo, da kakovost pogosto trpi. Švedsko finančno podjetje Klarna je po zamenjavi vseh agentov z UI ugotovilo, da so prihranki prišli na račun kakovosti, in je ponovno začelo masovno zaposlovati ljudi. UI sistemi imajo namreč težave z razumevanjem regionalnih narečij, nepravilno prepisujejo govor in pogosto potrebujejo človeški nadzor, kar dejansko povečuje obremenitev preostalih zaposlenih.

  1. Odpor uporabnikov do algoritmov

Raziskave kažejo, da ljudje kljub napredku tehnologije pogosto ne zaupajo algoritmom, še posebej kadar gre za pomembne odločitve. Uporabniki so veliko bolj kritični do napak UI kot do napak ljudi in raje zavračajo priporočila algoritmov, tudi če so ta objektivno boljša. Airbnbjev Smart Pricing, orodje za dinamično oblikovanje cen, se je soočalo z nizko stopnjo sprejetja prav zaradi nezaupanja gostiteljev, ki so menili, da algoritem podcenjuje njihove nepremičnine.

Medtem ko Airbnb slavi rekordne rezultate in učinkovitost, ki jo prinaša umetna inteligenca, zgodba opozarja na pomembno ravnovesje. Tehnologija je lahko močno orodje, vendar množično nadomeščanje človeškega dela in strokovne presoje prinaša tveganja, od izgube delovnih mest in poglabljanja neenakosti do napak, ki jih človek ne bi storil. “Ni bolj pristranskega instrumenta od človeških možganov,” ugotavlja raziskovalka Shunyuan Zhang, a hkrati dodaja, da so tudi algoritmi lahko vir pristranskosti, če niso ustrezno zasnovani in nadzorovani. V prihodnosti bo ključnega pomena, da podjetja UI ne obravnavajo kot popolno zamenjavo za človeka, temveč kot orodje, ki ga je treba razvijati odgovorno, pregledno in v sodelovanju s tistimi, ki jih njegove odločitve neposredno zadevajo.

Delitve: