С развитием искусственного интеллекта стало появляться всё больше сгенерированного контента, встаёт закономерный вопрос: "А как отличить человеческий труд от ИИшного?". И тут на помощь снова приходят новые технологии - детекторы искусственного интеллекта для обнаружения текста, написанного с помощью различных нейросетей. Вот только точность выдаваемого ими результата сомнительна и отличается в зависимости от используемого сервиса.
Решила я проверить миниатюру, написанную более трёх лет назад для конкурса на Golos, где я представляла свои ощущения и мысли по фотографии, на которой я запечатлела вечернюю Москву из окна "Останкинской башни".
Зарисовка:
Настал сумеречный час, и чёрная вуаль накрыла «порт пяти морей». Лишь кровавая полоса отделяла пустоту небес от неспящего города, по которому уже поползли золотые змеи, они извивались и мерцали, подавая сигналы бескрайнему космосу и никогда не сворачивая со своего пути. Их окружает множество разноцветных огоньков: то тут, то там вспыхивают новые «светлячки», другие же неожиданно гаснут, чтобы потом снова зажечься, заявив о себе всему миру. И там… на орбите… кто-то смотрит на них, скучая по своему уютному «гнёздышку», по семье, по матери… И с высоты «7 неба» видно, как эти мигающие огоньки вырисовываются в причудливые картины, затрагивая в подсознании невидимые струны и наигрывая меланхоличный мотив. Как долго продлится свет ночных городов? Что скрывается за белыми окнами: комедия или трагедия? Внешний холод борется с внутренним теплом, вызывая по телу мурашки, но вера в светлое будущее, надежда на людей и любовь ко всему живому прогоняет его. И тут же восприятие ночного вида меняется: в городской первозданной тьме зажглись яркие и красочные гирлянды, предвещая скорое наступление праздника, нового лучшего года и Рождества… А потрёпанная душа ощутила мягкое и лёгкое прикосновение Бога…
К моему удивлению, не все детекторы смогли распознать авторский рассказ. Большинство увидели "человека письменного", но один отказался признать моё авторство. На нём можно ставить жирный крест.
При сканировании конкурсной работы от @sonya44 все детекторы выдали разные результаты. Так её написал Human или AI?
Вот такие дела... Полагаться только на подобные технологии - смысла нет. Их алгоритмы обнаружения ИИ-контента несовершенны, всегда нужно подключать логику и интуицию. А вы что думаете?
@kateevs, может мы уже все ИИ? Надо наверное нам всем, в ближайшем будущем, смириться с ИИ и не внимать обращения... Потому что ИИ неизбежно, а думать человек в последнее время разлюбил! Проще нажал на кнопку и всё готово...
@slon21veka, Я не могу дописать свои рассказы, постоянно что-то отвлекает. Если бы я уехала на несколько месяцев в глушь, то, возможно, всё и завершила бы, но не могу себе этого позволить...
@kateevs, я думаю, что нужно оставаться честными перед собой и тогда жизнь писательская потихоньку наладится.
@lllll1ll, Надеяться на честность, как и на детекторы, пока не приходится. И это усложняет разбор конкурсных работ.
@kateevs, я в большинстве случаев опознаю творения ИИ и его частичное использование без всяких детекторов. Вообще-то, стало не очень интересно жить. Читать практически нечего. Вымирание.
@lllll1ll, Благо, в конкурсе почти никто не использует ИИ, а его наличие мы отмечали в итоговых постах, используя свою интуицию и детекторы.
@kateevs, что побудило вас, организаторов конкурса, добавить проверку текстов на ИИ? я как-то пропустила этот момент, а было бы интересно, какое событие послужило триггером.
Какой результат вы ожидали получить с введением проверки? И как она повлияла - улучшилось качество текстов, увеличилось количество участников, стал выше уровень грамотности, может быть, что-то еще? спасибо
@valkommen,
При написании рецензий мы и раньше использовали детекторы, если замечали сгенерированный текст, а в итоговых постах отмечали свои подозрения. В первых конкурсах даже был такой пункт: "5 - Не принимаются работы, сделанные при помощи генераторов текста". Примеры: "Надежда вопреки всему", "Планета свечения". Потом мы данный пункт упразднили, т.к. ИИ мало кто использовал.
Пункт снова вернули (возможно, временно) после этой провокационной дискуссии. Любопытно, что больше всех выступают против "ИИшных" работ в конкурсе те, кто обходит его стороной.
Проверка была и раньше, но закулисная. Наблюдаем за реакцией. В своём посте я показала работу разных детекторов, полагаться только на них смысла нет.
Проверка на наличие ИИ не может повлиять на качество текстов. Количество участников является стабильным (+/-), на конкурс присылают работы чаще самые пишущие голосяне. Сейчас 8 участников.
Для нас, как организаторов, ничего не поменялось. Нужно ли это тем, кому конкурс интересен? Что Вы скажете?
@kateevs, стало понятнее, откуда ноги растут
мое мнение, как участника прошлых литконкурсов:
раз, с ваших слов, проверка на наличие ИИ не увеличила аудиторию желающих участвовать в конкурсе ( ведь в этом цель, я правильно понимаю?), и ничего не изменилось, тогда чего ради копья ломать...
ваша цитата из дискуссии звучит разумно
p.s. заметила (хотя может просто совпало), что подобное "внимание" к условиям конкурса возросло, когда появился крупный спонсор (появилось, что делить). Бойтесь своих желаний. Мечталось, что увеличение гонорара привлечет больше авторов, вот они и привлеклись:))
@valkommen,
Цель была не в этом, пункт на запрет использования ИИ был с самого начала, его убрали для увеличения числа участников, не наоборот. Проверка с помощью детекторов проводилась и ранее, но в последнее время допускались все работы. Вернули данный пункт для наблюдения, сбора информации, так ли он сильно нужен аудитории? Мы склоняемся, что не нужен.
@kateevs, цель конкурса - увеличение числа участников, я это имела ввиду в скобках, а дальше: мысль: раз наличие проверки на ИИ этой цели не способствует и вообще ничего не меняет," то и ради чего копья ломать". видимо, непонятно написала, одно на другое наложилось
спасибо, точку зрения организаторов поняла
@valkommen, не кажется вам, что клиповость мышления добъёт нас, а не ИИ (процесс запущен ещё в 80-е)?
@ruta, какой процесс запущен? я не совсем поняла вопрос
@valkommen, с появлением интернета
@ruta, мне сложно судить о том, что происходит в голове у других. Скажу про свой опыт: для меня появление интернета - благо, но это потому, что я умею с ним обращаться. Это полезный инструмент, расширяющий мои познания, который экономит мне время (если бы мне, как раньше, каждый раз приходилось рыться в энциклопедии и словарях и идти в библиотеку, я бы сильно замедлилась в поисках нужной информации). В профессии без интернета никуда. Это удобно.
Понятно, что фактчекинг никто не отменял, и тут могу только пожалеть людей, в частное, более молодое поколение, многие из которых этим навыком не обладают и регулярно получают из интернета свою порцию ложной информации и фейков. Просто мы успели получить крепкую базу знаний в доинтернетной эпохе, работать с бумажными источниками, а они - нет.
Я своим детям постоянно напоминаю, что нужно проверять источники, не брать ответы сразу с первой страницы выдачи, смотреть на надежность и историю ресурса, а сейчас еще и ИИ-чаты добавились, которые тоже обещают "легкую жизнь" в поиске нужных ответов.
Но найдутся и такие, кто будет микроскопом гвозди заколачивать, не замечая полезное предназначение, а только развлекаться и проедать свою жизнь в сети. Я в таком возрасте, когда время - очень ценный ресурс, а кого-то, видимо, еще "вся жизнь впереди" (как они думают).
Про клиповое мышление. Есть минус в том, что получают не цельное представление о предмете, а фрагментарные обрывки знаний - где-то чего-то ухватил, может, даже сути не понял, а также теряют способность анализировать, критически оценить - сразу "съедают" все, что им предлагают. В моем окружении таких, совсем "отбитых на голову" нет, но подозреваю, что проблема существует.
@valkommen, спасибо за мнение
@kateevs, Для человека, который понмает механизмы сео в написании в интернете текста, все эти детекторы легко обходить, тем более ии все лучше и лучше пишут текста
@andrey1986, Меня больше удивляет то, как некоторые детекторы мой авторский текст, написанный ещё до появления нейросетей, признали как плод ИИ. )
@kateevs, Ха Ха Ха, они сами ии и не понимают, что творят
@andrey1986, Это точно. 😂
@kateevs, я тебе про это ещё в прошлый раз писала 🤔
Ну ваш любимый детектор меня просто ошеломил 🤔
В твоей миниатюре она распознала 3 или 4 параметра, такие как пологость или плавность рассказа, использование простых слов. Нет конфликта или резкого перехода в сюжете, да там у него много параметров. ,Вот и признал он её как своё творение.
Но, как ни странно, мы в принципе большинство также пишем, если не сильные литераторы. 🤔
@sonya44, Значит, с разными литературными жанрами детекторы плохо работают, не различают нюансы. Мне как-то один человек сказал про мой стих, что его, словно нейросеть написала, а я его опубликовала ещё в 2017-м году. 😂 Скоро все будут писать и думать, как ИИ. 😂
@kateevs, ха, так это норма. Поскольку общаясь с нейросетью, ты волей-неволей начинаешь думать и писать как она.
Получается своего рода «попугайничество», а вот если бы я написала как раньше, с ошибками, такого не было, потому что ИИ не пишет с ошибками. 😊😁🤣
@kateevs,
Вот и получается, что это не искусственный интеллект научился хорошо писать — а это мы разучились хорошо писать:)
@algis, Всё взаимосвязано. :-) Недавно читала одно исследование, в котором говорилось про цифровое слабоумие...
@kateevs, https://text.ru/antiplagiat/unauthorized вот этим сайтом проверяю, там и на ии, и на плагиат, и ещё много всего инитересного! Пока сбоев не давал.
@glebminsky, Я этим сайтом раньше активно пользовалась, когда занималась копирайтингом и рерайтингом, т.к. нужно было предоставлять доказательства уникальности текстов.
@kateevs, Это жесткий сайт. Мой рассказ, написанный ИИ, определил как написанный 100% ИИ. 👍️ Но и мой рассказ, написанный давным давно, еще до появления ИИ он определил как 3% мой и 97% ИИ. 😂
@mgaft1, Забавно. Толку мало от этих детекторов.
@kateevs, Может быть придется просто не выставлять такое требование и написать, что мол постарайтесь писать сами и использовать ИИ по минимому.
@mgaft1, Снова упраздним такое требование. 😊 ИИ почти никто и не использует, а его наличие в работе всё равно заметно.
@kateevs, А я пишу немного коряво и сумбурно, даже с ошибками) Проверку делал некоторых текстов и на плагиат, и на ии, те редакторы где я делал, подтвердили что моё 😊
@glebminsky, Я свои стихи проверяла, ещё ни разу ИИ их себе не присвоил. 😊