SKYNET и Palantir: преемственность палачей
Бывший директор АНБ и ЦРУ Майкл Хайден однажды сказал:
«Мы убиваем людей на основе метаданных»
Фраза была произнесена в апреле 2014 года на публичных дебатах в Университете Джонса Хопкинса. Оппонентом Хайдена выступал профессор права Джорджтаунского университета Дэвид Коул.
В ходе дискуссии Коул процитировал бывшего главного юрисконсульта АНБ Стюарта Бейкера:
«Метаданные абсолютно всё расскажут о чьей-то жизни. Если у вас достаточно метаданных, вам на самом деле не нужно содержание».
Хайден согласился с этим, назвав утверждение «абсолютно верным», и добавил свою циничную и жестокую фразу.
Это заявление напрямую перекликается с секретной программой АНБ под названием SKYNET, о которой стало известно из документов Эдварда Сноудена.
Суть программы была в сборе данных: АНБ собирало метаданные (кто, кому, когда и откуда звонил) 55 миллионов пользователей мобильных телефонов в Пакистане. Затем эти данные скармливались алгоритму машинного обучения, который искал паттерны, схожие с поведением известных «курьеров» террористических группировок — людей, передающих сообщения вручную, чтобы избежать перехвата. Программа должна была выдавать вероятностную оценку того, насколько каждый из 55 миллионов человек похож на курьера. И если алгоритм ошибался,то любой человек мог стать целью удара с беспилотника.
С 2004 года в Пакистане в результате атак беспилотников погибло от 2500 до 4000 человек. А согласно документам АНБ, система ошибочно записывала в террористы обычных людей в 0,18% случаев. При выборке в 55 миллионов человек это означает десятки тысяч невиновных, попавших в поле зрения как потенциальные цели.
Самым ярким примером провала программы стало то, что наивысший рейтинг угрозы получил Ахмад Заидан — руководитель бюро телеканала «Аль-Джазира» в Исламабаде. В презентации АНБ его фото было помечено как «член Аль-Каиды». Причиной стало то, что Заидан, как журналист, часто ездил в опасные регионы и контактировал с разными людьми, что алгоритм ошибочно принял за поведение курьера.
С тех пор прошло много времени. Теперь у американцев есть Palantir и мощные нейросети, которые позволяют ещё точнее выявлять предполагаемые «цели» для нанесения ударов. Но судя по последним событиям — целенаправленным убийствам в Иране и секторе Газа — меньше жертв среди гражданского населения не становится. Не зря даже американские правозащитники видят в этом «культуру палачей» (https://whistleblower.org/in-the-news/voice-of-russia-nsa-metadata-kill-revelation-exposes-us-executioner-stance/), укоренившуюся в верхушке разведсообщества США.
Palantir — это прямой наследник логики SKYNET: если АНБ собирало метаданные и передавало их военным, то Palantir коммерциализировала эту модель и продала её Израилю как готовый продукт. Частный подрядчик теперь выполняет функцию, которая раньше была прерогативой государственной разведки, — и делает это без той публичной отчётности, которая формально существует для правительственных агентств. Именно поэтому «культура палачей» не остаётся в прошлом, а получает коммерческое продолжение.
https://t.me/darpaandcia - цинк
Конечно же современные технологии нейросетей будут в первую очередь использоваться для слежки и контроля над людьми, а также для убийства других людей.
Думать, что будет по другому, столь же наивно, как верить, что Starlink запускали ради доступного интернета для обычных людей.
В школах разрешено применение ИИ
В школах разрешено применение ИИ
Министерство просвещения России подготовило методические рекомендации по применению искусственного интеллекта в школах.
Согласно рекомендациям, ученики 1—4-го классов не используют ИИ самостоятельно.
В 5—9-х классах преподаватель имеет право разрешить применять нейросеть для поиска и первичной систематизации информации, получения дополнительных объяснений, визуализации материала.
В 10—11-х классах к этим возможностям добавляется использование машинного интеллекта в проектной и исследовательской деятельности.
Ученикам запрещается использовать ИИ во время контрольных работ и на экзаменах, выдавать полностью созданный ИИ текст или проект за свою работу.
Так сказать закладывают основу для гос.регулирования применения ИИ в образовательном процессе. Разумеется, запреты породят расцвет рерайта приготовленного с помощью ИИ материала. Вопрос будущего домашних заданий в эпоху доступных нейросетей по-прежнему находится в подвешенном состоянии.Также возникает вопрос ценности рерайта при написаниии курсовых и дипломов.
Комментариев нет:
Отправить комментарий