Убер АВ несрећа наглашава различита очекивања за АИ

Stress, Portrait of a Killer - Full Documentary (2008) (Јун 2019).

$config[ads_text] not found
Anonim

Фатална несрећа у којој је Убер аутономно возило у аутоматском режиму ударио и убио пјешака показује да су очекивања АИ надувана

Рицхард Куиннелл, главни и одговорни уредник

Пре неколико дана, остварени су најгори страхови о аутономној технологији возила (АВ). АВ који је Убер тестирао на улицама Темпеа у Аризони погодио је и убио пешака. Та несрећа се још увек истражује, тако да је прерано да се каже шта се тачно десило и зашто ни АИ ни људски сигурносни возач не успева да удари у судар. Али једна ствар је јасна: очекивања о томе шта АИ може и треба да уради су на целој мапи.

Основа за АВ истраживање је да ће АИ водећа возила, стопе несрећа драматично смањити, спасавајући животе, и да се технологија развила до тачке да је реално тестирање на терену погодно. Опозиција није спремна да толерише АВ-ове на јавним путевима док свеобухватно тестирање недвосмислено показује да ће АИ сложити све могуће ситуације далеко боље од најбољих људских возача (и чак и тада вероватно ипак неће вјеровати њима над људима). Изгледа да је ова несрећа изазвала сумњу на једно гледиште, док је још један узбудила и сигурно је подстакла расправу.

Убер је, с правом, суспендовао све своје АВ тестирање на терену за сада. Међутим, када је истрага завршена, и пуно разумевање онога што се догодило и зашто је постигнуто, који би требали бити сљедећи кораци? Хоће ли Убер и други наставити тестирање на терену као и раније? Да ли ће законодавци и јавност тражити додатна ограничења и прописе како би се побољшала јавна безбедност и захтијевало даље тестирање ван терена прије него што би се омогућило додатно тестирање на јавним путевима? Или ће целокупни концепт АВ-а једноставно бити одложен?

То су тешка питања за одговор, а одговори ће делимично зависити од резултата истраживања. Да ли је дошло до пропуста у систему АИ која је проузроковала да не види опасност коју би људи видели или је то било нешто што чак ни најбољи возач није могао да спречи? Да ли је било људско спречавање, зашто возач људске безбедности то није учинио?

Ако АИ није успео, у најмању руку, АВ тестирање на терену би требало зауставити све док се не изведу АИ и / или побољшања сензора за рјешавање ове и сличне ситуације и темељито се тестирају у условима у којима јавност није у ризику прије него што размисли о повратку на јавно тестирање на терену. А ако би људски оператер могао да има, али није спријечио несрећу, онда се цијели приступ тестирању са људским резервним копијама мора поново размишљати.

Али шта ако истраживање закључи да чак ни добар људски возач у конвенционалном возилу није могао избјећи несрећу? Како одлучити да идемо напред са тестирањем на терену? Да ли постоји чак и прихватљив ниво ризика да може доћи до више таквих несрећа?

Убер поседује 24.000 аутомобила из Волво-а који су произведени од Волво-а. Извор слике: Убер.

Пре него што друштво може ефикасно решити та питања, потребно је ријешити разлике у томе како се АВ осјећају. Прва ствар коју треба схватити је да постојећи ризик код вожње људи није занемарљив. Према статистикама које је изнео Национални савет за безбедност, током 2017. године у САД је било више од 40.000 смртних случајева моторних возила и повреда од 4, 57 милиона озбиљних за хоспитализацију. То су бројеви који заговарачи очекују драматично смањење АВ-а.

Следећа тачка која треба узети у обзир је да ништа од људи (укључујући и друге људе) није савршено. Они који желе блокирати јавна АВ тестирања док се не докаже да су беспрекорни, у суштини говоре "никад" за целу идеју аутоматизованих возила. Исто тако, они који размишљају да ће АВ-а једног дана елиминисати све несреће су наивни. Савршен АВ без случајних случајева никада неће постојати.

С друге стране, једна предност коју имају машине над људима јесте то што се сви могу подузети да се понашају на исти начин у истим околностима. Не постоји его, цестовни бес, исцрпљеност, сметња, болест, равнодушност, брзина, паника или неискуство са којим се можете суочити. Штавише, када дође до несрећа, постоји могућност да се научи од њих како да побољша рад свих АВ-ова, да примени то побољшање и да има трајно повећање њиховог учинка.

Трећа ствар коју треба разумети јесте да се у одређеном тренутку јавна испитивања на терену морају одржати прије него што се АВ могу прогласити прихватљивим. Једноставно није могуће предвидети све околности које ће се појавити током операције АВ-а. Можемо предвидјети, опонашати и тестирати за многе, можда чак и већину могућих сценарија, али не и све. Надаље, чак и за сценарије које можемо предвидети, тест који се проводи под контролисаним условима није савршен предиктор резултата на терену. Стара војна изјава да план борбе никада не преживи први контакт са непријатељем односи се само на системско тестирање. Окружење на терену је увек гадно од лабораторије.

Дакле, ако је испитивање на терену неопходан корак и, када се узме, сигурно ће на крају довести до неуспеха (а можда и друге смрти), онда како одлучити када и како наставити одавде? Који је прихватљив ниво ризика када је случајан човеков живот у питању и ко доноси ту одлуку? Како је ЕЕ Тимес упитао, да ли је Робокар смрт цена прогреса? Алтернативно, да ли смо спремни да напустимо АВ и наставимо са тренутним нивоима смртних случајева људских возача? Ово су питања која треба да колективно одговоримо.

Мој глас је за вишефазни процес који иде напред. Сазнајте што више о овој несрећи и провести начине за смањење или елиминацију понављања. Тестирати АВ опсесивно, континуирано учити и побољшати њихов рад. Прво тестирајте у делимично ограниченом окружењу, као што је урбано окружење у коме се покрећу само АВ-и пешаци знају и прихваћају ризик од интеракције са њима. Покажите да АВс надмашују људске возаче неколико километара који се погађају по несрећи у сваком сценарију пре него што се прошири тестирање на отвореније услове.

Лично, радујем се данима распрострањеног АВ-а који доминирају или чак искључиво попуњавају путеве. Видео сам превише возача који су неквалификовани, неспособни, оштећени, неодговорни, прекомјерни, зависни од ризика или его- или љутње да се надају да можемо значајно смањити стопу смртности коју изазивају људски возачи. Имам много веће наде за доба аутономног возила.

Шта је ваше мишљење?

Рицхард Куиннелл