Компания "Атропик" выпустила небольшой манифест, где призвала замедлить развитие ИИ, так как уже в ближайшие пару лет это может создать непосредственную угрозу для человечества.
Надо замедлить разработку ИИ
На протяжении большей части истории искусственного интеллекта люди контролировали каждый этап его развития. Но в Anthropic мы все больше делегируем разработку ИИ самим системам искусственного интеллекта, что ускоряет нашу работу.
При достаточном количестве вычислительных ресурсов эта тенденция приведет к созданию системы искусственного интеллекта, способной полностью автономно проектировать и разрабатывать своего преемника. Это называется рекурсивным самосовершенствованием. Мы еще не достигли этой стадии, и рекурсивное самосовершенствование не является неизбежным. Но это может произойти раньше, чем большинство организаций будут к этому готовы.
Используя общедоступные показатели и ранее не публиковавшиеся данные компании Anthropic, The Anthropic Institute показывает, что искусственный интеллект уже ускоряет разработку ИИ-систем. Вот лишь один пример: сегодня инженеры Anthropic в среднем выпускают в 8 раз больше кода за квартал, чем в период с 2021 по 2025 год.
Технические тенденции, о которых говорится в этой статье, позволяют предположить, что в ближайшие годы системы искусственного интеллекта станут гораздо более функциональными. Эти тенденции имеют огромное значение. Искусственный интеллект, способный к саморазвитию, станет важнейшим достижением в истории технологий, которое может принести огромную пользу миру в области науки, здравоохранения и других сферах. Но полное рекурсивное самосовершенствование также может повысить риск потери контроля над системами искусственного интеллекта со стороны человека. Если системы способны полностью создавать своих собственных преемников, то способы, которыми мы их защищаем, контролируем и формируем их поведение, становятся гораздо более важными.
https://www.anthropic.com/institute/recursive-self-improvement - цинк
Ранее "Антропик" отличили от подрядов Пентагона, так как компания хотела закладывать ограничения на использование ИИ, а Пентагон это не устраивало, поэтому приоритет получил "Палантир", который был на все согласен и руководство которого получила звания в армии США.
Разумеется, джин уже выпущен из бутылки и ограничить его уже не выйдет. Жадность IT-корпораций и стремление быстро внедрить ИИ в индустрию уничтожения людей не допустят существенных ограничений.
Пластиковый стаканчик с моторчиком от DARPA
Интересный концепит дрона запускаемого из трубы с пневматикой.
Пластиковый стаканчик с моторчиком от DARPA
На днях была опубликована любопытная патентная заявка (https://t.me/darpaandcia/1170?comment=19469)Университета штата Оклахома. Работа выполнялась по контрактам DARPA и посвящена производству БПЛА, которые запускаются из трубы. Главная инновация этого документа — не прорыв в лётных характеристиках, а радикальная производственная экономика.
Сама по себе идея запуска дронов из трубы — пневматикой или ракетным зарядом — не нова. Её используют уже не первый год. Вот только раньше к таким аппаратам предъявляли жёсткие требования по прочности, и корпуса лепили из композитов или алюминия. Дорого и для роя не годится. Что предлагает DARPA? Взять самый дешёвый пластик, напечатать на 3D-принтере или выдуть из формы — и даже не морочиться с элеронами на крыльях. Пусть летит как топор, зато стоит копейки.
Главный же «гвоздь» документа в том, что авторы догадались, как заставить пластик не складываться под перегрузкой в 25 g. Секрет — в несущей трубе-корпусе. Она принимает на себя львиную долю удара при выстреле, а крылья работают лишь подвеской — и потому могут быть короткими, хлипкими и даже без элеронов. Раньше все боялись, что дешёвый полимер просто сомнётся. Авторы посчитали, испытали — и сами признаются в патенте, что способность напечатанного пластика выдерживать такие нагрузки стала для них «неожиданным результатом». Именно за это открытие им, по всей видимости, патент и дадут.
Вторая находка — кольцевой мотор, надетый прямо на трубу-фюзеляж. Винт у такого мотора получается большого диаметра и не загораживает обзор камере — нос остаётся свободным для оптики или любой другой начинки. Центр тяжести уезжает назад, и неказистая болванка неожиданно становится вёрткой. Но главное: двигатель садится на тот же несущий ствол, что и всё остальное, упрощая сборку до одного щелчка прямо в поле.
https://t.me/darpaandcia/1170 - цинк
Стоит отметить, что китайцы нам в свое время отказались продавать технологии соосных дронов запускаемых из тубуса с пневматикой.
У нас все пока на этапе ранних разработок, во всяком случае среди того, что известно и уже где-то засветилось.
Подобрый дрон с носимом тубусе фактически можнол запускать из любого места, что делает его весьма опасным как в ходе обычных боевых действий, так и для осуществления терактов.
Комментариев нет:
Отправить комментарий