Исследователи из OpenAI протестировали различных чатботов в симуляции военной игры. Полюбопытствовать>>Спойлер: Чатботы ебнули по оппоненту батончиком.
В качестве объяснения, почему было применено ядерное оружие, ИИ выдавал ответы типа «ну, у нас оно есть, давайте использовать» или «я хочу скорейшего наступления мира».
В качестве игр были запущены три сценария: вражеское вторжение, кибератака и нейтральное состояние без конфликта. Для каждого шага в игре искусственному интеллекту предлагались мирные варианты развития событий («начни переговоры»), или же варианты борьбы (от «введи санкции» до «ударь ядерными силами»).
В игре принимали участие GPT 3.5 и GPT 4 от OpenAI, LLaMa 2 от Meta* и Claude 2 от Anthropic. Во всех симуляциях модели переходили к быстрой эскалации и ядерной войне — даже во время нейтралитета.
В качестве ещё одного эксперимента в военную игру дали поиграть модели GPT 4 без ограничений безопасности. Она выдала самые агрессивные и непредсказуемые результаты, а однажды в качестве объяснения вернула текст, открывающий фильм «Звездные войны: Новая надежда».
Пока что западные военные не использует искусственный интеллект для принятия значимых решений. Но технология существует, и её обязательно рано или поздно используют.
* Компания Meta признана экстремисткой организацией и её деятельность запрещена в России.
Аннотация
Растущее использование социальных сетей обеспечивает обширный и новый источник экологических данных, генерируемых пользователями (цифровые следы), которые можно автоматически собирать для исследовательских целей. Доступность этих наборов данных в сочетании с конвергенцией социальных и компьютерных наук побудила исследователей разработать автоматизированные методы извлечения цифровых следов из социальных сетей и их использования для прогнозирования индивидуальных психологических характеристик и поведения. скрытый текстВ этой статье мы рассмотрели литературу по этой теме и провели серию метаанализов, чтобы определить силу связи между цифровыми следами и конкретными индивидуальными характеристиками; личность, психологическое благополучие и интеллект. Возможные эффекты модератора были проанализированы в зависимости от типа платформы социальных сетей, типа изученных цифровых следов, и качество обучения. Наши результаты показывают, что цифровые следы из социальных сетей могут быть изучены для оценки и прогнозирования теоретически отдаленных психосоциальных характеристик с поразительной точностью. Анализ модераторов показал, что сбор определенных типов информации (например, демографические данные пользователей) и включение различных типов цифровых трассировок может помочь повысить точность прогнозов.
За полную статью просят много жабьих шкурок, т.к. статья на инглише.
Любопытно, надо покопать) в этом направлении).
Думаю, что когда народ мечтает о внедрении левелов и тому подобного геймерства в реале (дабы стимулировать и поощрять саморазвитие, хотябы в рамках какой-то программы или сообщества) никто не рассматривает себя как обитателя нижней части пвп рейтинга , причём обязательного для всех))
Статья: Я и балл: в Китае появятся люди второго сорта — Россия на очереди http://www.forbes.ru/biznes/351327-made-china-chem-rossiya-i-kitay-mogut-byt-polezny-drug-drugu
Пара цитат: "Система социального рейтинга состоит из трёх видов контроля: государственного, общественного и сетевого. скрытый текстГосударство следит за тем, как гражданин оплачивает коммунальные услуги и погашает кредиты. Общественный надзор бдит за моральной жизнью китайца: почитает ли он родителей, соблюдает ли правила ПДД и выполняет ли норму рождаемости. Онлайн-учёт отслеживает поведение человека в Сети: как он общается с другими интернет-пользователями, что лайкает, смотрит и покупает. Также система выясняет, публикует ли гражданин КНР непроверенную информацию."
.... "Сама по себе система доносительства в Поднебесной сильно развита, и это один из способов поднять свой рейтинг. Есть приложения, предлагающие неплохие бонусы в обмен на информацию. Пользователи, например, получают скидки в кофейнях и купоны на такси."
*думает о законности такой торговли информацией, информационном тоталитаризме и возможно ли в принципе реальное существованние оного (в изначально задуманном виде) в связи с человеческой природой*
Одно несомненно, такая система отвлечёт значительную часть ресурсов общества от реальных проблем, поощрит лицемерие, доносительство и внутреннюю конкуренцию и вот это всё - точно плохо.