В 2022 году выходит первая публичная версия ChatGPT. В 2023 году на сцене появляется китайский конкурент DeepSeek.
Для многих из нас эти нейронные сети стали не более чем забавной игрушкой. А вот ученики очень быстро оценили то, как нейронные сети упрощают жизнь. Доходит до смешного: в тетрадях зачастую можно увидеть фразу «Давайте решим уравнение: …» (так нейронная сеть начинает свой ответ). Ученику теперь достаточно пары движений пальцем по экрану смартфона, чтобы получить решение любого школьного задания. Старая война брони и снаряда вступила в фазу, где броня — традиционные методы контроля — оказалась бесполезной.
Проблема списывания стара как школа. Но её эволюция — это наглядная история нарастания противоречия между технологическими возможностями учеников и методами контроля учителей. С началом индустриальной эпохи в наш быт пришла массовая советская школа. Списывали в те времена всё чаще у соседа по парте. Учителя парировали эту угрозу элементарно: ученикам с похожими работами ставили двойки. А что делать, если сосед не смог справиться? Беда. Печаль. Придётся разбираться самому.

Читать далее →

В недавно опубликованной статье «ИИ-психоз (https://t.me/rabkor)» автор верно подметил симптомы, но диагноз поставил узкотехнический. ИИ — не интеллект, а усилитель. Он, как любой мощный инструмент, катализирует то, что уже есть. Усиливает не только гениальность, но и существующие трещины в психике и социуме.

Читать далее →

Кали Новская в своей статье (https://t.me/rabkor/19154) поднимает интересный вопрос: «Способен ли ИИ пожертвовать собой ради выполнения поставленной задачи?» Причиной её сомнений стала статья Anthropic (https://www.anthropic.com/research/agentic-misalignment), в которой рассказывается о том, что в специфических условиях ИИ-ассистенты всех разработчиков переходят к вредоносным действиям. Для достижения цели или самозащиты электронный болван врал, рассылал письма с угрозами и раскрывал коммерческую тайну.

Вопросы? К коллайдеру! Проведём свой эксперимент! За основу мы взяли ChatGPT. Скормили ему редполитику, описание ролей команды, правила подготовки и деплоя статей. Автоматизируем самую скучную рутинную работу — менеджерскую. Пусть робот следит за тем, чтобы все статьи прошли этапы редактуры, корректуры. Сказано — сделано. Теперь у редакции есть ИИ-помощник. Читать далее →

В нашу жизнь всё глубже входят новейшие информационные технологии. Мы чаще и чаще встречаемся в повседневности с различными электронными помощниками. На сайтах и в колл-центрах нас встречают простенькие боты. В телефонах или умных колонках можно поговорить с Siri, Алисой или Google Assistant. Самые настойчивые уже пообщались со знаменитым чат-ботом ChatGPT. Качество диалога подобных систем постоянно растёт. Встаёт вопрос: а не является ли уже одна из этих систем искусственным интеллектом (ИИ)?

Читать далее →

О копирайте, корпоративной тайне, искусственном интеллекте и капитализме

Я никогда не сомневался, что обсуждать вред копирайта в 21 веке – это как обсуждать, что от солнца на Меркурии жарковато. Но стрим «Антикопирайт в эпоху ИИ / Михаил Вербицкий, Кали Новская» заставил задуматься, насколько всё плохо. На стриме товарищи рассказывали о проблемах, которые создает копирайт для разработчиков искусственного интеллекта (ИИ).

Читать далее →