Ваши ожидания определяют и ускоряют ваше восприятие. Новая концепция, объясняющая этот эффект, предлагает уточнить теории об обработке сенсорной информации.

«Представьте, что вы делаете глоток яблочного сока, а оказывается, что в стакане имбирный эль. Хоть вы и любите газировку, сейчас она кажется отвратительной. Все потому, что внешние обстоятельства и внутренние состояния (например, ожидания) влияют на то, как все животные воспринимают и обрабатывают сенсорную информацию», — объясняет Альфредо Фонтанини, нейробиолог из Университета Стоуни-Брук в Нью-Йорке. В данном случае неверное восприятие раздражителя застигает врасплох и ведет к негативной реакции.

Но такое влияние не ограничивается качеством восприятия. Среди прочих эффектов — подготовка сенсорных систем к положительному или отрицательному сигналу также может ускорить то, как быстро животное замечает, определяет и отвечает на сигнал.

Несколько лет назад Фонтанини и его команда обнаружили прямые доказательства такого эффекта, зафиксировав «ускорение» во вкусовой зоне коры. С тех пор они пытались обнаружить нейронный контур коры, который обеспечивает этот эффект. И им это удалось. В апреле они опубликовали в Nature Neuroscience модель сети с особой архитектурой, которая не только позволяет по-новому взглянуть на механизм предвосхищения, но и отвечает на более широкие вопросы ученых о восприятии. К тому же эти открытия согласовываются с теорией принятия решений, которая предполагает, что мозг действительно приходит к выводам скорее неожиданно, чем постепенно.

Ускорение восприятия и активные состояния

Вкус — наименее изученное чувство — был идеальной отправной точкой. С момента, когда вкус достигает языка, до того, как вкусовая зона коры начинает реагировать на сигнал, проходит несколько сотен миллисекунд. «Для мозга это практически вечность», — говорит Дон Катц, нейробиолог из Брандейского университета в Массачусетсе (в его лаборатории Фонтанини и провел свою последокторскую работу). «Визуальному центру требуется лишь малая доля этого времени». Поэтому на примере зрения было бы гораздо сложнее заметить эффект предвосхищения.

В 2012 году Фонтанини со своими коллегами провел эксперимент, в котором крысы слышали звук («упреждающий сигнал»), а затем чувствовали вкус вещества, в небольшом количестве поступающего по трубке им в рот. Вкус мог быть сладким, соленым, кислым или горьким, а упреждающий сигнал не содержал в себе информации о том, каким будет вкус.

Несмотря на это, исследователи выяснили, что даже столь неопределенное предвосхищение могло привести к тому, что нейроны во вкусовой зоне коры узнавали раздражитель практически в два раза быстрее, чем когда крысы чувствовали вкус, не услышав прежде звука. Длина задержки сократилась с примерно 200 миллисекунд до 120.

Фонтанини хотел выяснить, какая нейронная сеть могла в теории ускорить кодирование сигнала. Для этого ему нужен был кто-то, не связанный со вкусовыми исследованиями, и он привлек коллегу из Стоуни-Брук — нейробиолога Джанкарло Ла Камера, который уже работал над построением модели спонтанной мозговой активности, проявляющейся без раздражителя.

За последние пару десятилетий стало понятно, что большая часть активности в сенсорных структурах возникает сама по себе и не зависит от внешних раздражителей. Сложно отличить активность визуального центра животного, находящегося в полной темноте, от мозговой активности животного, оглядывающегося по сторонам. Даже без света часть нейронов в коре возбуждается либо одновременно, либо предсказуемыми волнами. Такое коррелирующее возбуждение существует в виде так называемого метаустойчивого состояния от пары сотен миллисекунд до нескольких секунд, а затем паттерн возбуждения смещается в другое положение. Метаустойчивость (стремление к смене разных неустойчивых состояний) продолжается после того, как появляется возбудитель, но некоторые состояния чаще возникают после появления определенного возбудителя, и поэтому их можно называть «кодирующими состояниями».

Ла Камера и другие (включая Катца), смоделировали метаустойчивость, построив так называемую кластерную сеть. В ней не только существует сильная связь между группами возбуждающих нейронов, но есть и случайные связи тормозных нейронов с возбуждающими, что добавляет в систему эффект затухания. «Эта кластерная архитектура является основой для построения метаустойчивости», — убежден Фонтанини.

Фонтанини, Ла Камера и постдокторант Лука Маццукато (сейчас работает в Университете Орегона) обнаружили, что одна и та же структура связей была основой и для воссоздания эффектов предвосхищения. Исследователи симулировали неопределенный упреждающий сигнал, за которым следовал конкретный вкусовой раздражитель в метаустойчивой модели с кластерной архитектурой. Таким образом они успешно воспроизвели паттерн ускоренного кодирования стимула, который наблюдал Фонтанини в 2012 году на крысах: переходы из одного метаустойчивого состояния в другое шли быстрее, из-за чего система достигала и следующих кодирующих состояний быстрее. Результаты показали, что, просто построив сеть, которая содержала бы метаустойчивые паттерны активности, «можно также зафиксировать множество неврологических реакций … при моделировании вкусового стимула».

Когда исследователи пытались смоделировать упреждающий сигнал и последующий раздражитель в системе без кластеров, добиться результатов 2012 года не удалось. Так, по словам Катца, «только определенные типы связей позволяют воспроизвести этот эффект».

Упрощенный переход

Данное открытие позволило понять, какую структуру нужно искать во вкусовом и, возможно, в других сенсорных центрах. На данный момент ученые спорят о природе восприятия вкуса. Одни утверждают, что за сладкое и соленое отвечают разные нейроны, образуя «нейронные подписи» для более сложных вкусов. Другие же объясняют восприятие вкуса более общими механизмами. По их мнению, большинство нейронов реагирует на большинство вкусов.

Своим исследованием Фонтанини и его коллеги поддерживают последних, в то же время приводя предположения о том, как должна выглядеть эта межнейронная структура. Скопления нейронов сами по себе, по словам Фонтанини, «перенимают множество черт вкусовой зоны коры (например, спонтанность активности, паттерны реакции на вкус, эффект предвосхищения)». Он надеется и дальше исследовать алгоритмы создания этих кластеров и их воздействие на другие виды нервной деятельности.

В исследовании также описывается нейронный субстрат, который лежит в основе механизма предвосхищения. Дело не только в том, что упреждающий сигнал возбуждает определенные нейроны или вызывает определенный набор состояний, которые затем кодируют стимул. Напротив, важнее, что предвосхищение, судя по всему, меняет динамику — а именно скорость переключения — всей системы.

Фонтанини и Ла Камера сравнивают эту динамику с мячом, который катится по дороге с выбоинами. Эти выбоины представляют собой ответные реакции, а механизм предвосхищения придает дороге уклон, в связи с чем мяч попадает в первую выбоину быстрее. Он также выравнивает холмистую дорогу, по которой мяч катится между выбоинами, тем самым облегчая переход из одного состояния в другое и не допуская застревания.

Иными словами, механизм предвосхищения немного упрощает нейронную сеть. Он упрощает переход к состояниям, которые кодируют собственно вкус, но не придает сети такой устойчивости, чтобы она надолго оставалась в одном из этих состояний. Такая проблема часто возникает у подобных кластерных сетей: при такой кластеризации некоторые «выбоины» состояний оказываются слишком глубокими, и система распространяет неверную информацию. Тем не менее, результаты исследования показывают, что для решения этой проблемы «сложная система не нужна». Так утверждает Георг Келлер, нейробиолог, изучающий процессы зрительной обработки информации в Институте биомедицинских исследований им. Фридриха Мишера в Швейцарии.

Фонтанини и Ла Камера надеются, что подобным образом можно объяснить и условные процессы, уже не касающиеся механизма предвосхищения (например, внимание или обучение). Однако Ла Камера утверждает, что, возможно, «самым важным следствием [нашего исследования] является перенос внимания со статичных кодирующих реакций на динамическое поведение самих нейронов».

Хотя подход, при котором системы рассматриваются в динамике, не нов для нейронаук, ранее возникали трудности с его проверкой и моделированием. Чаще всего эксперты представляют элементарное сенсорное восприятие в виде иерархии: кора головного мозга создает и объединяет функции для формирования восприятия, посылая сигналы на остальные уровни сети, в которых объем информации увеличивается до тех пор, пока мозг не выдаст решение или алгоритм действий.

В представленном исследовании все иначе. На самом деле, его результаты подтверждают другой вид обработки, в котором «все эти процессы происходят одновременно … и даже опережают стимул», как заключает Лесли Кей, нейробиолог из Чикагского университета, специализирующийся на обонянии. «Познание чего-либо происходит в поле коры головного мозга», формирующей систему связанных между собой кластеров, чтобы отражать это познание, «а затем воздействие [механизма предвосхищения] приводит к формированию знания».

Внезапная находка

Данная модель подразумевает, что принятие решений — не постепенный процесс, обусловленный накоплением информации, а скорее так называемый «Ага!-момент», то есть скачок колебаний в нейронных сетях. Катц в своих исследованиях использовал тот же принцип моделирования, что и Фонтанини и Ла Камера, чтобы доказать, что принятие решения (например, проглотить или выплюнуть еду) «происходит внезапно».

Связь между этими «очень разными уголками вкусовой сферы» — между работами Фонтанини по сенсорному восприятию и его собственными исследованиями — «чрезвычайно будоражит» Катца.

Это подчеркивает необходимость перенести внимание с отдельно взятых нейронов, отвечающих на конкретные сигналы, на то, чтобы сделать роль внутренних состояний и динамики более явной для нашего понимания сенсорных сетей — и даже самых основных сенсорных стимулов. «Гораздо проще сказать, что нейрон наращивает скорость реакции», — заявляет Анан Моран, нейробиолог Тель-Авивского университета в Израиле. Но, чтобы понять, как работают организмы, «нельзя брать в расчет только стимул, нужно учитывать также внутреннее состояние», добавляет он. «Это значит, что нужно пересмотреть наше прежнее понимание механизма, используемого мозгом для восприятия, действия и всего прочего».

«То, что происходит во вкусовой зоне коры прежде, чем до нее доходит стимул, — это важная часть процесса обработки этого стимула», — утверждает Катц. В данном случае изучение влияния реакций и сигналов на внутреннее состояние помогло узнать больше об их взаимодействии в целом.

Теперь, считает Моран, такой вид условной зависимости должен найти отражение и в других исследованиях восприятия и познания. «Последний рубеж — система зрения … Работа в этом направлении способна выявить что-то интересное о процессе обработки визуальной информации».

«У нас до сих пор нет универсальной модели, которая описала бы все виды внутренних процессов», — добавляет он. Но это «хорошая отправная точка».

По материалам Quanta
Автор: Джордана Цепелевич 

Переводили: Алёна Кобрезия, Аполлинария Белкина
Редактировал: Сергей Разумов

Китай и Гонконг начинают создавать «умные» тюрьмы. Стоит ли США последовать их примеру?

Датчики под управлением искусственного интеллекта, трекинг-браслеты и анализ данных: на наших глазах эти технологии ворвались в умные дома, машины, школы и офисы. А теперь сетевые системы осваивают новые области: на этот раз — тюрьмы.

Недавно Китай и Гонконг объявили, что их правительства разворачивают новую технологию на основе искусственного интеллекта (ИИ) для ежедневного контроля над заключенными ряда тюрем. Правительство Гонконга тестирует оборудование, подобное устройствам американской корпорации Fitbit, которое непрерывно отслеживает местоположение, занятия и пульс заключенных. Некоторые тюрьмы готовятся к запуску сетевых систем видеонаблюдения, которые будут фиксировать случаи ненормального поведения: членовредительства или проявлений агрессии. В других начнут использовать роботов, запрограммированных на поиск наркотиков в фекалиях заключенных.

Правительство материкового Китая заканчивает установку передовой «умной» системы видеонаблюдения в тюрьме Яньчэн. Посредством скрытых камер и датчиков, размещенных во всех тюремных комнатах, система в режиме реального времени сможет контролировать содержащихся там бывших высокопоставленных лиц. Согласно статье в South China Morning Post, система будет передавать собранные данные в «быстродействующий компьютер, снабженный элементами ИИ, который сможет круглые сутки распознавать, отслеживать и контролировать заключенных» и «в конце каждого дня с помощью распознавания лиц, анализа движений и других возможностей ИИ формировать о каждом заключенном подробный отчет, в том числе анализ его поведения». Как и в Гонконге, эти системы были разработаны, чтобы отмечать случаи подозрительного поведения и оповещать охранников, если действия заключенного классифицируются как ненормальные. Сотрудник технологической компании Tiandy Technologies, разработавшей систему видеонаблюдения для тюрем, утверждает, что с помощью новой технологии «побеги станут историей», и могут остаться в прошлом случаи неэтичного поведения охраны — в частности, взяточничество.

Все вокруг уже «умное», чем тюрьмы хуже? Потенциал подобного нововведения неоспорим, риски — тоже. И хотя властям США следует остерегаться полного копирования китайской модели паноптикум-тюрьмы, новые технологии могут улучшить условия содержания в камерах, а также повысить общий уровень безопасности. Однако злоупотребление современными технологиями грозит превратить будни заключенных и тюремных смотрителей в настоящий кошмар.

Уголовное правосудие ставит перед американскими тюрьмами сразу несколько целей: ограничение дееспособности преступников, воздаяние за преступление, предупреждение будущих правонарушений и реабилитацию заключенных. В последнее время предметом обсуждения становится именно четвертый аспект — особенно, учитывая растущее признание того факта, что подавляющее большинство заключенных (95% в региональных тюрьмах) однажды снова станет частью общества.

Когда для достижения этих целей предлагают использовать сетевые технологии, нужно понимать, что замена персонала тюрьмы на ИИ не должна быть приоритетной задачей. В первую очередь стоит помнить о правах и достоинстве заключенных, а также о необходимом для успешной реабилитации человеческом участии — этого не сможет заменить ни один, даже самый совершенный, ИИ. Напротив, следует учесть целесообразность затрат на разработку «умных» тюремных технологий, которые смогут облегчить труд людей и помочь обеспечить заключенным безопасность, поддержку и образование.

Скажем, применение ИИ в тюрьмах для анализа разновидностей поведения заключенных в перспективе принесет пользу как лицам под стражей, так и тюремному персоналу — можно будет выявлять ситуации потенциального нанесения вреда. Так, например, дежурным будет легче замечать у заключенных признаки склонности к членовредительству.

ИИ можно использовать и для наблюдения за охраной. Исследователи уже пытаются внедрить машинное обучение в системы профессиональной подготовки, чтобы идентифицировать и пресекать случаи полицейского насилия. ИИ просматривает личные дела и учится выявлять сотрудников, которые с высокой долей вероятности могут стать зачинщиками «нежелательного происшествия». Система также указывает на служащих, за которыми числятся определенные проступки, или тех, что переживают сильный стресс. Технологии умных тюрем позволят реализовать подобные функции на основе сбора данных о тюремных надзирателях. К тому же систему для выявления ненормального поведения заключенных можно научить определять потенциальные злоупотребления полномочиями со стороны надзирателей и оповещать об этом.

Но прежде чем внедрять эти системы, нужно ответить на пару вопросов: достаточно ли надежны современные технологии? И вообще, хотим ли мы отдать тюрьмы на откуп технологиям?

Что касается первого вопроса, наши текущие технологические возможности дают вескую причину не торопиться устанавливать умные камеры в тюрьмах. Для анализа поведения людей камеры под управлением ИИ скорее всего будут использовать алгоритм распознавания лиц в сочетании с аналитической обработкой данных. Чтобы подобная технология заслуживала доверия, она, по крайней мере, должна безошибочно определять личности отдельных граждан.

Однако системы распознавания лиц — в частности, Rekognition от Amazon, которую уже продают полиции, — скверно определяют темнокожие и смуглокожие лица, особенно женские. Несложно представить, что ИИ будут использовать для наказания невиновного. При этом средств правовой защиты у него может не оказаться: суды, как правило, признают дисциплинарные решения тюрем.

Даже если технологии распознавания лиц научатся безошибочно идентифицировать людей, нужно настороженно относиться к заявлению, что эти технологии смогут отслеживать случаи «ненормального» поведения. Для обучения ИИ — от амазоновской Alexa до алгоритмов модерации контента на Facebook — нужны люди. И вот в чем вопрос: как разработать стандарты для определения «ненормального» поведения? Если критерии выборки будут слишком жесткими, в категорию «ненормального» могут попасть многочисленные разновидности «нормального» поведения — людям придется подстраиваться, испытывая сильнейшее психологическое давление. А если критерии будут чересчур мягкими, машина, лишенная человеческой чуткости и осмотрительности, может упустить те эмоциональные проблемы, которые заметят сотрудники исправительных учреждений. Хотя, учитывая значительную нехватку персонала в тюрьмах США, важно заметить, что существующие тюрьмы редко можно назвать образцовыми в этом плане.

Даже если предположить, что «умные» технологии научатся с относительной точностью определять подозрительное поведение, стоит задуматься: а какой ценой? Если отставить вопросы о правах и достоинстве заключенных, усиленное видеонаблюдение может навредить реабилитации, создавая атмосферу недоверия и контроля. Исследования показали, что в тюремных учреждениях с постоянным надзором напряжение между персоналом и заключенными усиливается, еще больше усугубляя проблемы с поведением. Не будет преувеличением предположить, что последствия работы таких тюрем — технически усовершенствованной версии Большого Брата — будут противоречить изначальной цели их создания.

В то же время, тюрьмы, в которых уровень агрессии и проблем с поведением значительно снизился — среди них учреждения в штате Коннектикут, Норвегии и Германии — не применяют формы строгого надзора и социального контроля. Напротив, они стараются вернуть заключенным самостоятельность, подготовить их к повторному вступлению в общество. Но, возможно, одно другому не мешает. Может ли безупречно спроектированная система, лишенная человеческих недостатков и способная с высокой точностью определять и фиксировать случаи по-настоящему ненормального поведения, дать узникам ощущение свободы, безопасности и равноправия? Выигрывает ли она в сравнении с предвзятостью и прихотями живых надзирателей? Может, благодаря ей у персонала тюрьмы останется время чем-то помочь заключенным?

И все-таки, даже если получится создать ИИ, который будет выполнять все заявленные функции, использование такой системы станет невиданным прежде посягательством на неприкосновенность личной жизни. Она будет собирать и анализировать данные, незаметные человеческому глазу, непрестанно обрабатывать беспрецедентно широкий спектр поведенческих сценариев и помещать небывалое множество конфиденциальных сведений под пенитенциарный микроскоп. Объединение такое количества биометрической, поведенческой и идентифицирующей информации влечет за собой дополнительные риски. Например, что если у управления исправительных учреждений, владеющего этими данными, возникнут финансовые трудности, и оно решит продать такое сокровище? И как скоро ее украдет предприимчивый хакер? Мы уже видели, как все может обернуться.

Вывод из этого лишь один: действовать нужно с осторожностью. Сами по себе эти технологии ни плохие, ни хорошие. Они, конечно, «умные», но всего лишь дублируют и расширяют обязанности тюремного персонала — сами обязанности не меняются. Умные тюрьмы способны как смягчить, так и усугубить проблемы в американском уголовном праве. В значительной мере все зависит от того, какой курс возьмет система, перед тем как технологии внедрят. Сейчас вероятнее второй вариант.

А вот если мы перевернем отношение правительства к заключенным, и уже после этого создадим соответствующие технологии ИИ, — тюрьмы, быть может, действительно «поумнеют».

По материалам Pacific Standard
Автор: Нила Бала и Ларс Траутман

Переводила: Алёна Кобрезия
Редактировали: Дмитрий Пятаков и Александр Иванков