В 2020 году я помогла создать “Сигнал о помощи” – сигнал рукой, который сообщает друзьям, родственникам и посторонним людям: “Мне нужно, чтобы вы проверили меня безопасным способом”. Наша команда рекламировала “Сигнал о помощи” в социальных сетях, предвидя связанный с пандемией рост и без того высокого уровня гендерного насилия, и он стал вирусным в ноябре 2021 года, когда в обществе царили тревога, директивы оставаться дома и распространение видеозвонков.
Случаи использования женщинами и девушками Сигнала о помощи для получения помощи в опасных ситуациях попали в новости. Например, одна женщина использовала Сигнал о помощи во время остановки на дороге, чтобы получить помощь от своего жестокого мужа, а другая женщина использовала его, чтобы уведомить персонал автозаправочной станции о том, что ее против воли удерживает жестокий бывший бойфренд. В результате благонамеренные люди пытались интегрировать Сигнал о помощи в цифровые технологии. Одна компания, занимающаяся разработкой инструментов для камер с искусственным интеллектом, обратилась к нам с просьбой встроить распознавание сигнала о помощи в их систему безопасности, и подобные любительские попытки обсуждались в социальных сетях.
Привлекательность этой идеи очевидна: автоматическое распознавание может быть полезно для доброжелательного друга или коллеги, находящегося по другую сторону видеозвонка, который может не заметить, что кто-то использует сигнал о помощи. То, что люди хотят помочь тем, кто может оказаться в опасности, достойно восхищения, но эти новые применения технологии неправильно понимают назначение и использование Сигнала о помощи.
Такие попытки являются частью растущей тенденции использования искусственного интеллекта для распознавания дистресса: Эксперименты по определению дистресса у домашнего скота, такого как куры, крупный рогатый скот и свиньи, дают многообещающие результаты, потому что ИИ, похоже, лучше, чем невооруженным ухом, разбирает какофонию криков, кудахтанья и хрюканья животных.
Но люди – это не куры и не крупный рогатый скот. Намерение злоупотреблять и контролировать может превратить луддитов в экспертов. В опасных отношениях всегда возникает вопрос, кто главный в технике.
Сигнал о помощи – это намеренно эфемерный инструмент, созданный для того, чтобы помочь людям общаться, не произнося ни слова и не оставляя цифровых следов. Мне больно… Я не могу сказать об этом вслух… Ты будешь рядом, пока я разбираюсь? Непостоянство – важная характеристика, учитывая то, как злоумышленники склонны контролировать и манипулировать. Они таятся, преследуют и следят за устройствами. Женские приюты регулярно помогают жертвам справиться со взломанными смартфонами, нежелательными приложениями для отслеживания местоположения и записи голоса, скрытыми камерами и тому подобным. Доски объявлений, социальные сети и даже сарафанное радио могут помочь насильникам совершить насилие над людьми, которых они якобы любят. В случае с “Сигналом о помощи” злоумышленники могут использовать тот же механизм искусственного интеллекта, созданный для обеспечения безопасности, чтобы предупредить их о том, что человек, которому они причиняют боль, пытается воспользоваться “Сигналом о помощи”.
Существуют и другие проблемы, связанные с инструментами ИИ для обнаружения дистресса у людей, которые включают программное обеспечение для сканирования электронной почты студентов и поиска в Интернете на предмет членовредительства и насилия, а также для определения замешательства, скуки и рассеянности студентов в виртуальных классах. Помимо этических аспектов и вопросов конфиденциальности, их применение зависит от веры в то, что мы можем надежно распознать человека в беде и действовать в соответствии с этим так, чтобы действительно помочь ему. Эти инструменты работают на основе позитивистской веры в то, что когда человек находится в бедственном положении, он выражает это внешне предсказуемыми способами. И когда они это выражают, они желают определенного вмешательства.
Но исследования показывают, что наше предположение о том, что человеческая мимика соответствует эмоциям, не может быть искренним. Несоответствие между телом и эмоциями может быть более выраженным в нездоровых отношениях. Люди, подвергающиеся насилию, говорят о разобщенности, о необходимости “покинуть свое тело”, чтобы выжить. Некоторые рассказывают о том, как они стараются скрыть свою обиду, травму и боль, что им приходится это делать, чтобы успокоить обидчиков и сторонних наблюдателей, которые их поддерживают. Они говорят о том, как тщательно они следят за каждым движением и подергиванием, за тем, как они жуют, моргают и дышат, и что их наказывают, когда они просто существуют так, что это раздражает их обидчиков.
Russian 
English