AI和假新闻– NoN –中

人工智能和假新闻

Искусственныйинтелект_пока_неумнеечеловекаввыявлениифейков

Желовекиизплемени“Журналисты” —照片作者

Еслилюдиперевираютфакты，фразыимысли，тооправдаетсялинадежданаИИ，какинструментнезависимойтрансляциивходныхданныхифактоввформатдоступноймножественнойверсии（газета，статья，ролик）？ Некоторыеразмышлениянаэтутемувпереводнойститьениже。

Ужесталопонятно，чтоалгоритмы，используемыеFacebookиGoogleдляпоставкиновостейихпользователям—неслишко。 Да，фейковыеновостивсёещёостаютсясерьёзнойголовнойболью дажедлятакихтехнологическихгигантов ，ноосновнойвопросвсёжевтом，когдаикакпрограммынаконецнаучатсяотличатьправду отлжи ，ипроблемаэтабудетсохранятьсвоюважностьпокуда интернетостаётсянекоторымподобиемвсеобщегооткрытогофорума ，когдалюбойлегкоможетпопытатьсястатьисточникомлжи。

Facebook上的Крупныеотделыпомашинноюобучению，在Googleсоздалиалгоритмы，раздающиепользователяминтересеюуу。 Ноонинеспособныеёпониматьиисправлять，даиэкспертывтехнологическойсферевосновномутверждают，чтоожидатьотИИподробногопониманиятекстанеприходится。

Ситуациясобработкойестественногоязыканасегодня

Досихпор，всеусилиявэтойобластибылинаправленынасовершенствованиеобработкиестественногоязыка，гдекомпьютеручатчитатьотрывкитекста，пониматьосновныемысли，изложенныевнём，иделатьпредположенияивыводыобихзначении。 “Современныйуровеньмашинногообученияестественногоязыкапозволяетпрограммампереводитьтекстысодногоязыканадругой，посколькувсё，чтопрограмменужнознать – ужеестьвпереводимомтексте”， – утверждаетЯнГудфеллоу，исследовательвOpenAI。 Сдругойстороны，выявлениеидей，отслеживаниессылокнаинформациювпотенциальныхтысячахисточников，исовершениевыводововозможнойправдивостиэтойинформации – всёэтотребуетцелостногопониманиемираиспособностьобъединятьпонятия，которыесовершеннонеобязательнобудутсвязаннысемантически。

Насегодняшнийденьвернинойтехнологическогопрогрессасчитаютсясистемы，способныеотгадывать。 Недалее，какв2014году，научныймирудивилИИ脸谱，читающийнебольшойотрывоктекста，обобщающийсюжетВластелинаКолециотвечающийнавопрос“осталосьлиуФродокольцо，илинет”：

Бильбопришёлвпещеру。
Голлумобронилтамкольцо。
Бильбонашёлкольцо。
БильбовернулсявШир。
Бильбооставилкольцотам。
Фродовзялкольцо。
ФродопошёлкРоковойГоре
Фродооставилтамкольцо
Сауронумер
ФродовернулсявШир
БильбопошёлвСеруюГавань
Гдекольцо？ 注释：РоковаяГора
ГдесейчасБильбо？ Ответ：СераяГавань
ГдесейчасФродо？ Ответ：Шир

Squad的Stanford问答数据集-由бенчмаркингадляподобныхсистем。 Человекуподобныйтестпокажетсякрайнепростым：прочестьстатьюв维基百科олигеамериканскогофутболаподназванием超级碗50иответитьнавопросывроде“？Всколькихиграхлигиучаствовалакоманда丹佛野马”（Ответ – 8）。

Первоеместоврейтинге队втекущемгодузанялнедавнообразованныйцентромисследованияИИв的Salesforce：ихИИверноответилна80％вопросов，заданныхнаосноветекстастатейв维基百科。 Победаимдосталасьнепросто—由Microsoft艾伦AI研究所提供2％的价格。обошлиопппонентовиз。

Нопросмотрнесколькихпараграфовиответнапростыевопросы， “Чтобысделатьвыводыоправдивоститогоилииного фактанужноиметьсведенияосостояниивсегоинфополя ，чтоневероятносложно”， – говоритРичардСокер，главаотделаисследованийвSalesforce的。 “Дажееслибыунасбылидеальныйспособ закодироватьизагрузитьвпрограммувсезнаниямира ，тотакаяпрограммалишьувеличилабыобъёмхранимых знаний ”。

Сокерзаявляет，чтофактновизныновостныхсюжетовозначает， Небольшой，нодостоверныйновостнойсервисможетопубликоватьстатью，которуюИИпометиткакложнуюпростопотому，чтооннеможетнайтиейподтверждениянапросторахинтернета，дажееслионспособенпостоянновычитыватьипониматьвсюпубликуемуюонлайнинформацию。

Какподтверждаетфактычеловек？

Человеческаялогикавсегдасчиталасьзолотымстандартомвпроверкефактов。 КаролинРайан，старшийредакторразделаполитики，《纽约时报》， Тщательнаяохотазаправдой – основнаяфункциялюбогоисточникановостей，стремящегосязавоеватьдовериечитателя，новсеобщеоткрытаяприродаинтернетаприноситссобой имножествоисточников ，пренебрегающихжурналистскимиценностями。 Поэтомумиллионычитателейсовсегосвета，желающиепроверитьправдивостьстатьипосещаютспециализированныесайтыпроверкифактов，такие，какSnopes.comилиPolitiFact，имеющиежурналистов，напостояннойосновезанимающихсяразоблачениемвымысловвинтернете。

“Внезависимостиотпроверяемойинформации，процесспроверкинеизменяется”，—говоритКимЛаКариа Первымделомследуетпроверить，以及поддерживаютливысказанныевтатьемысливуказанныхвнейи。 Например，историяопредположительнойсвязидействийХиллариКлинтонисамоубийствомнеевБ Дажевслучае，еслиисточникистатьи—реальносуществующие， “ Соднойстороны—изначальнаяинформация，сдругойстороны—图库摄影和图片。 Иобестороныдалеконевсегдасовпадают ”，即—говоритЛаКариа。 “ Азаголовок—вполнеможетидтивразрезссодержанием ”。

СотрудникиSnopesстараютсясобратьнастолькомногоконтекстуальнойинформации，сколькомогут。 Приэтом，наиболееважнымипараметрамиявляютсявремя，когдапроизошлоописываемоесобытие，ктовнёмучаствоваликогдаонаначала набиратьизвестностьитраффик 。 Такжеищутсяизначальныеисточникиинформацииипытаютсясвязатьсясчеловеком， Лишьпослевсегоэтогоделатсявывододостоверностистатьи，以及весьпроцессвкомплексеможетзан “Анализ，казалосьбы，самойпрозрачнойстатьиможетзаниматьнесколькочасов，атой，чтоказаласьсложной – 15минутивэтомнетникакойзакономерности”， – утверждаетЛаКариа。

ИльяСуцкевер，руководительисследованийвOpenAIутверждает，чтоИИ，проверяющийдостоверностьфактов – вполневозможен，иегоподходкработебудетблизоккчеловеческому。 “Одинизвозможныхподходовквопросу – написаниесложнойсистемыанализаипониманиясмыслатекста длятого ，чтобысистема‘читала’самыеразличныестатьиизсамыхразличныхисточникови искалалогическиенесоответствиятакимжеобразом ，какэтосталбыделатьспециализирующийсянаподобной деятельностичеловек 。 Ксожаленью，насегодняшнийденьподобноерешениепокачтоневозможно ”。

Темнеменее，дажелюдипоройимеютразныемнениянасчётправдивости тогоилииногоутверждения ：“Станетлиновостьподдельнойтолькооттого，чтотакзаявляют8из10людей？ Аесли7из10？ Инасколькобыхорошнебылалгоритм，онписалсялюдьми，азначитибудетподвержентемтенебел

Существующиепроектыпоразработкеискусственнооо“искоренителялжи”

ВозможнымрешениембудетнаучитьИИверить/неверитьопределённымфактам，чтобыемунеприходилосьпрочёсыватьвесьинтернетвходепроверкиочереднойистории。 РазработчикиличногоассистентаOzloсчитают

奥兹洛（Ozlo） Затемсмотрит，какиесайтыиобзорылюдисчитаютдостовернымиидажеопределяетэлементыезыка Основнаязадача—图库视频影像。

Нотемнеменее，Ozloпериодическиприходится： “ Ясчитаю，чтовсегдаостанутсяпроверяющие，ведьданныеполучаютсяотлюдейвовсеммногообрази。 ？Мыженехотим，чтобынашедетищевнезапносталоисповедоватьнацизм，верно” – заявляетЧарльзДжолли，генеральныйдиректорOzlo，имеяввидуслучайсботом泰от微软。 Поплануразработчиков，ихИИдолженбылпознаватьмирпутёмобщения санглоязычнойаудиториейв Twitter的，Kik的иGroupMe的，нопослесутокподобногопроцессапрограммапубличнопровозгласила，что“Гитлербылправ”。 Приэтомкитайскиеияпонскиеверсиипрограммывсёеаработаютбезкаких-либосерьёзныхошибок。

Ozloпостепеннорасширяетсвоюдеятельностьзапределырестораннойсферы。 Джоллинадеется，чтоеслипродолжатьскармливатьпрограммевеликоемножествоновостныхсюжетовизразныхисточниеов，тоонанаучитсяанализироватьновостировнотакже，каконаужеанализируетрестораны。 Конченоженовостисильноотличаютсяотресторановиотзывовоних，ктомужеуOzloивомногоразменьшепользователей，чему脸谱，поэтомуеслидажеOzloибудетошибатьсяв1％случаевопознанияфальшивыхновостей，тоэтиошибкизатронутзначительноменьшеечисло людейиихбудетпрощенайтииисправить。

Темвременемвборьбусэпидемиейподдельныхновостейвсоцсетяхвключилисьхакерыинезависимые。 hackathon的Одноизрешенийдажеодержалопобедупобеду， Программа，названнаяFiB，проверяетсайты-источникинадостоверность/недостоверностьинаосновеэтойинформа Еслипубликациясодержиттвитыилифотографии，топрограммапреобразуетихвтт。 Этобесплатноебраузерноеприложениеможнонайтивинтернет-магазине铬，авсовершенствованиипрограммыможетпопробоватьсебялюбойподкованныйвпрограммированиичеловек，таккакинструментимеетоткрытыйкод。

Другаяпохожаяпрограмма，虚假新闻提醒，подавторствомБрайанаФельдманаиз纽约杂志простоведётпопон Есливыустановилисебеэтупрограмму（такжебраузерноеприложение，доступноевинтернет-магазине铬），токаждыйраз，каквыбудетекликатьпоссылкам，ведущимнасайтизэтогосписка，тобудетеполучатьсоответствующееоповещение。

Подобныеподходыкпроблемемогутпомочьограничиватьпотокпсевдоновостей，распроконаемыхвне Но，какговоритЛаКариа，всёбольшеибольшекрупныхисостоявшихсяновостныхканаловкакCNNилиBBCначинаютпубликоватьпопулярные，нонеобязательноправдивыесюжеты。 Технически，этиновостипроходятчерезихфильтрыиполучаютстатус“проверенных”。

17ноябряДональдТрампякобыубедилглаву福特汽车公司отказатьсяотпереносарабочихмествМексику。 Надележекомпанияникогдаинесобираласьэтимзаниматься。 Нопроблемавтом，чтоэтаинформацияизначальнопоявиласьвтрадиционныхипользующихсядовериемпубликиисточникахихотьбольшинствоэтихжеисточниковеёпозжеопровергли，былоужеслишкомпоздно：подделкаужеразошласьпосоциальныммедиаиправымСМИ。 Повсемнынедоступнымпоказателям，ИИбыабсолютнотакжепровалилэтоиспытание。

Нонесмотрянаэто，ЛаКариавсёжеутверждает，чтопоенмнениюинструментывFiо—наверномпут。 Такиесервисы，какBuzzfeed Newsи纽约时报 Инструмент，которыйхотябыпонимает，комуверитьможночащедругихвноситнастолькоженеоценимыйвкладвборьбусподделками，какиихнепосредственноеискоренение。 “ Когдаищешьправду，приниматьвовниманиеприходитсявседоступныефакторы ”，—говоритЛаКариа。

Программа，чтоспособнамыслитькакчеловек

Любаяфакто-проверяющаяпрограммадолжнарассматриватьсявприложениикмасштабамвсегоинтернета，ипогрешностьдажев1％означаетмиллионыобманутыхлюдей。 Сложнопредставить，чтовссловияхИИ-сообществовсёжодостигнетсвоеймечтыопромое

Какимногиедругиесложныепроблемывсфереисследованияискусственнойлогики，созданиеполноценногоИИказалосьзадачей，реализуемойвближайшеевремяссамогомоментазарожденияотраслив1950хгодах。 Насамомжеделе，спустявсёэтовремямыедвапродвинулисьближекзаветнойцели。 ЭрикХорвиц，управляющийдиректор微软研究院шутит，чтомногиеизтехвопросов，чтоожидалирешитьучастникиконференциивДартмутскомуниверситете1956гогодамоглибывыигратьбольшиегрантыисегодня，в2016年

Facebook以及Googleборютсяспроблемой，пытаясьхотябынепозволятьраспространителямфальшивыхновостейполучат 顶视图 Насегодняшнийдень，какипрежде，последнейлиниейобороныотлжииобманаостаётсясамчитатель。