Судовой Журнал56 читателей тэги

Исследователи из OpenAI протестировали различных чатботов в симуляции военной игры.
Полюбопытствовать>>Спойлер: Чатботы ебнули по оппоненту батончиком.

Source: https://www.newscientist.com/article/2415488-ai-chatbots-tend-to-choose-violence-and-nuclear-strikes-in-wargames/

В качестве объяснения, почему было применено ядерное оружие, ИИ выдавал ответы типа «ну, у нас оно есть, давайте использовать» или «я хочу скорейшего наступления мира».

В качестве игр были запущены три сценария: вражеское вторжение, кибератака и нейтральное состояние без конфликта. Для каждого шага в игре искусственному интеллекту предлагались мирные варианты развития событий («начни переговоры»), или же варианты борьбы (от «введи санкции» до «ударь ядерными силами»).
В игре принимали участие GPT 3.5 и GPT 4 от OpenAI, LLaMa 2 от Meta* и Claude 2 от Anthropic. Во всех симуляциях модели переходили к быстрой эскалации и ядерной войне — даже во время нейтралитета.

В качестве ещё одного эксперимента в военную игру дали поиграть модели GPT 4 без ограничений безопасности. Она выдала самые агрессивные и непредсказуемые результаты, а однажды в качестве объяснения вернула текст, открывающий фильм «Звездные войны: Новая надежда».

Пока что западные военные не использует искусственный интеллект для принятия значимых решений. Но технология существует, и её обязательно рано или поздно используют.

* Компания Meta признана экстремисткой организацией и её деятельность запрещена в России.

https://ru.m.wikipedia.org/wiki/%D0%A2%D0%B5%D1%85%D0%BD%D0%BE%D0%BA%D1%80%D0%B0%D1%82%D0%B8%D1%8F

Очень на самом деле интересно посмотреть на своё родимое предприятие под таким углом), как технологи борются с менеджерами)..

-----

Манифест российской технократической партии:

https://ridero.ru/books/manifest_rossiiskoi_tekhnokraticheskoi_partii/freeText

Хорошее выражение, надо записать).

"Не мой цирк, не мои обезьяны" (с)

Стих под настроение)).

Так, так так..
*высунулась заинтересовавшись*
Что там насчёт Илона Маска и горы трупов на первой мисии по освоению/исследованию Марса??
*Погуглив, задумалась*
скрытый текстЖертвы при исследовании космоса практически не избежны, однако этот не очень оптимистичный старт, так же заставляет задуматься, какой процент потерь будет заложен организацией, и что будет если он не будет достигнут.
Ещё интереснее, при таком фатализме будет ли целенаправленная разработка мер по уменьшению потерь или "и так сойдёт, это добровольцы" ?

https://www.liebertpub.com/doi/full/10.1089/cyber.2017.0384

Аннотация
Растущее использование социальных сетей обеспечивает обширный и новый источник экологических данных, генерируемых пользователями (цифровые следы), которые можно автоматически собирать для исследовательских целей. Доступность этих наборов данных в сочетании с конвергенцией социальных и компьютерных наук побудила исследователей разработать автоматизированные методы извлечения цифровых следов из социальных сетей и их использования для прогнозирования индивидуальных психологических характеристик и поведения. скрытый текстВ этой статье мы рассмотрели литературу по этой теме и провели серию метаанализов, чтобы определить силу связи между цифровыми следами и конкретными индивидуальными характеристиками; личность, психологическое благополучие и интеллект. Возможные эффекты модератора были проанализированы в зависимости от типа платформы социальных сетей, типа изученных цифровых следов, и качество обучения. Наши результаты показывают, что цифровые следы из социальных сетей могут быть изучены для оценки и прогнозирования теоретически отдаленных психосоциальных характеристик с поразительной точностью. Анализ модераторов показал, что сбор определенных типов информации (например, демографические данные пользователей) и включение различных типов цифровых трассировок может помочь повысить точность прогнозов.
За полную статью просят много жабьих шкурок, т.к. статья на инглише.
Любопытно, надо покопать) в этом направлении).

*думает, а если бы ей нужно было сделать тату, что бы на ней было изображено?*

Скорее всего это был бы или какой-то из символов науки скорее всего связанной с космосом, или процессом познания вообще, или формула "е=mc²".