![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
swamp_lynx"По работе я сейчас проверяла как т.н. ИИ (алгоритм предобучен на русскоязычных больших корпусах и дообучен на корпусе текстов наших испытуемых) объясняет своё решение отнести заданный текст к категории «текст написан человеком с депрессивным расстройством».
Выделила 6 типов ошибок, враньё — это только один из. При этом по метрике, которой в машобучении принято оценивать эффективность, машина работает с этим материалом хорошо. А по факту, при ручной проверке, — из 85 текстов, написанных здоровыми, 70 признаны «ИИ» текстами больных; на текстах больных, пациентов НЦПЗ с диагнозом, точность примерно такая же — из 22 правильно категоризованы 19. А «пояснения ИИ» написаны так, что если вы не специалист, то ошибок и не заметите. (На всякий случай: проводили проверку вместе с моей подругой, проработавшей в ин-те психиатрии им. Ганнушкина МЗ РФ около 40 лет)." Наталья Чудова.
"Какой же смысл сокращать интеллектуальные усилия в обществе, а не наращивать их, когда наконец-то, впервые в истории человечества, людям в нашей части света не грозит голод и непосильный физический труд?
Инженерный подход — да, понимаю, Но инженер — человек серьёзный, он сто раз проверит и перепроверит надёжность и повторяемость, да и тупых решений, полученных только методом тыка, не допустит — просто из уважения к предмету. Зачем программисту-инженеру уподоблять свою работу надуванию мыльного пузыря?
Да, каждому хочется побыстрее и полегче. Но это же не общий принцип жизни, мы же когда пирожное едим не стараемся его сожрать в один присест и на прогулке не двигаемся скорей-скорей. Ну не хочется работать над текстами — не надо, но какой смысл поручать машине читать хорошее и интересное, а не заниматься этим самим? Вот зачем студенту собранный чатом реферат? Он потом что будет делать с этими недополученными и неприсвоенными знаниями? ...Вот у меня подруга, выйдя на пенсию, собирается розочки на даче сажать. И гоняет сейчас "ИИ" в поисках "правильных решений". Вот тут да, тут этот чат годится, если он предложит розы поливать соляной кислотой, она ему не поверит, а если он что полезное найдёт, то и хорошо."
![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif)
russhatter: Беда программистов в том, что ровно то, что Вы им ставите в упрёк — "очень уж простой подход к текстам" — это ровно то, что они умеют, что у них получилось. А на шаг влево — на шаг вправо — нельзя, там бездны непроходимые и неведанные. Они "учили попугая", повторять, что слышит — и у них получилось. Научить попугая. После того, как они убедили богатеньких дядь предоставить им совершенно жуткие ресурсы на это занятие, это тоже очень важно. Так что не стреляйте в пианиста: играет, как умеет.
В результате родилось нечто неведомое, не мышонка — не лягушка — а неведома зверушка. Родилось — и помирать не собирается. И надо учиться с этим жить, и на это уйдёт время. Но мы приспособимся, точно. Настроим этику правильно — мы уже освоили в этике компьютер, теперь это вот надо. И поймём, для чего стоит эту штуку использовать, а для чего — нет. А пока — так, да, кувыркаемся.
nchudova: Я ничего такого "субъектного" про нейросети, большие языковые модели и генераторы текстов не думаю. Субъектами деятельности, приводящей к а) заполнению третьего мира Поппера конфабуляциями ("галлюцинациями"), б) "переносу ответственности" и в) дезориентации населения, я считаю программистов, бизнес и государства, поддерживающие такой бизнес.
А так нормально всё, болезни роста, когда-то нейросети были милым и мирным инструментом распознавальщиков, а теперь вот... Теперь вот они лично мне портят жизнь - кончилась моя работа по созданию методов текстовой социально-психологической диагностики. Теперь программисты только с LLM работать готовы, моделирование работы эксперта-диагноста они уже делать не хотят, баре все стали, за них машобучение пашет! Ну а результаты - ожидаемые, я их описала в посте для одного маленького примера.
Если кто-то готов возразить содержательно и разъяснить мне на пальцах как можно сделать классификатор на LLM надёжным и валидным инструментом распознавания в текстах различных типов высказываний (не А и неА, а 9 типов реакций на фрустрацию + фон, например) - буду благодарна. У себя в ин-те я "любви искала и не нашла".
Схема наших работ в последние года три, увы, такая.
Берём предобученную русскому языку LLM (обучают на больших корпусах, разные конторы - на разных, у кого-то больше СМИ, у кого-то включают Вики, у кого-то худ-лит, кажется, у всех НКРЯ). С т.з. лингвистики (точнее, В.А.Салимовского из ПермГУ) таким образом у "машины" формируется языковая системность. Вот этот алгоритм уже дообучается распознавать то, что нам нужно на нашем размеченном корпусе (однородном в жанровом отношении) - это уже обучение речевой системности. Ну и после - проверка на тестовом корпусе (тоже нашем, тоже размеченном). Проверка даёт хороший результат - F1-мера 70-80-90 (из 100 возможных). Все довольны, публикации, доклады, защиты дипломов у молодняка.
А потом я прошу показать мне результат - не в метрике машобучения, а живьём - к какой категории какой текст (или фраза, для некоторых задач) был отнесён. И вот результат - где 27% правильного распознавания, где 20%... А F-мера высокая, даже точность и полнота не ниже 70.
Ступор. Давайте заново корпус разметим и соберём побольше. Собираю и размечаю (не одна, с коллегами-психологами, берём только 100%-согласованные высказывания в обучающий корпус, разметка занимает 3-4 месяца). Ок, через месяц-другой у программистов — аналогичная картина. Машина не распознаёт в половине случаев даже то, что в случае "поиска по ключевым словам" распознаётся гарантировано - типа "ничего страшного" или "какой ужас!".
И объяснение есть - машобучение это ж про совместную встречаемость (ассоцианизм чистой воды, конец 19в). А вот эти ваши языковые клише или "лингвистические формулы" нейросеть не видит. А мы - выше этих ваших традиционных методов, да у нас и статьи про обычное программирование грамматики с лексикой не примут , теперь только большие языковые модели, только трансформеры, а теперь вот и генерация "текстов" (в кавычках, потому что буквосодержащий продукт, созданный без авторского замысла, не является текстом).
Ладно, выпустила пар, спасибо всем прочитавшим. Поставить методы автоматического анализа текстов (NLP) на службу социальной психологии больших групп мне не удалось. Пойду на пенсию. Лет через -дцать нейросетевой бум закончится, кто-то прочитает наши работы и заново возьмётся за разработку методов ИИ для текстовой психодиагностики и исследования национальной картины мира. Только уж жить в эту пору прекрасную...
Но Греф, заменивший в нашей стране работы в области ИИ на "тренировку нейросеток", конечно, сволочь.
platonicus: Послѣ доклада о "На рынкѣ бѣлыхъ бредовъ" М.Л. Гаспарову задали вопросъ, что онъ думаетъ о фрейдистскихъ, деконструктивистскихъ, феминистскихъ и прочихъ модныхъ практикахъ анализа. Онъ отвѣтилъ: "Это практика очень характерная для ХХ в., потому что это практика застѣнка. Заранѣе предполагается, что испытуемый лжетъ, но при примѣненіи вѣрной методики можетъ сознаться".
sh_e_k: Говорят, что такого в уме, это всего лишь инструмент. Хм… Но ведь и водку можно посчитать всего лишь напитком, если б человек не изменялся употребляя её. Как человек становится алкоголиком точно также он становится умным. Не нужны никакие особые навыки или особые усилия, просто по пути будет оставлено мешающее стать алкоголиком или умным, остальное необходимое нарастет само собой. Это очень легкий путь, так как это путь физиологии. Психологический и физиологические автоматы всё сделают за тебя и потом будут удерживать в этом приобретенном кругу. И изнутри круга будет удивительно, что кто-то живет иначе - странные и непонятные люди со странными и непонятными понятиями и устремлениями.
Алкоголик вряд ли когда признается, что он раб алкоголя, может на словах, может в какой-то момент и искренне, но потом посчитает, что это был момент слабости. Точно также и с умом. Умный человек никогда не признается, что он раб ума. Будут созданы разные умные конструкции, где это не так.
Заглянул в жж где умные люди обсуждают умную книгу с умной теорией. Очень странное впечатление. Люди безусловно умные и начитанные. И соответственно обмениваются умными и глубокими суждениями. Но всё это не имеет никакого смысла вне подобных обсуждений. То есть какая-то вещь очень сама в себе. Я сразу вспомнил Салтыкова-Щедрина с его характеристикой салонных бесед как журчание. Это очень точная метафора. Это однозначно чисто физиологическое действие. Расслабился и зажурчало.
И вот это очень популярное помешательство на уме, оно как будто не преодолимо. Это как у пойманного вора и подозрения не возникнет, что занимается чем-то неправильным. Скорее обвинит отвернувшуюся удачу, в крайнем случае заподозрит промашку в ловкости. Может зависть его удаче и смелости. Так и все умные люди будут считать, что все удивительные и дикие события в человеческом мире, это не от помешательства на уме, а от недостатка ума у всех остальных кроме себя.
papalagi: Дебил (в социальном смысле) -- человек живущий вне контекста.
Наверное, это безнадежней дурака.
Дурак -- открыт для внешней жизни, он реагирует на происходящее, пусть по дурацки, но обратная связь наличествует. Дурак бывает растет.
Дебил -- закрыт, он живет в своих представлениях, и реальность на него не влияет, у него своя реальность. Он не растет, он врастает в свою дебильную реальность.
Понятно, тут есть спектр, градация, глубина. Бывает, во всем человек, как человек, но стоит затронуть тему, в которой человек дебил, пиши пропало.
Но это скорей моя персональная этимология, хотя выводы на ней основанные порой оказывались рабочими.)
Учитывая еще что контекст человеческой жизни сложен, можно и так выразить, нечто вроде -- дебил тот, кто считает свои представления единственно верными. В общем, несчастье.
mahadaridra: Англосферный вариант БЗ в своей тенденции низводит общую психическую организацию человека до уровня палеолита. Если всерьез отнестись к максиме "ничего личного, только бизнес", то сфера чувств оказывается ограниченной только "своими, лично близкими". Точно как в готтентотской "морали" : мы увели стадо у другого племени - это хорошо. Они у нас увели - это плохо. Предлагается палеолит с катастрофически переразвитым рассудком, то есть чудовищно опасный для всех. Сперва с идейным обоснованием этой тенденции справлялся кальвинизм, потом подключился и сатанизм.
Во всей англоязычной фантастике по пальцем перечесть произведения, где всерьез обсуждается возможная высшая форма нравственности и что-то предлагается. Я вспоминаю только тетралогию Симмонса. Что-то робкое было еще у Хайнлайна. Ну может очень отчасти Азимов.
А так лейтмотив - дальнейшее развитие технического изобретательства с озверением
В Германии кальвинизма не было, поэтому гитлеровцы вынуждены были придумать неоязычество.
Японцы опирались в такой же тенденции на синто, а буддизм задвинули куда подальше
Однако какие-то ростки это жуткой тенденции есть уже в католицизме. Разное отношение к крещеным и некрещеным. Васко да Гама - ужасны злодей - ПРОСТО ТАК убил сотни индийцев, взяв их в заложники, но пощадил окрещенную на корабле девочку. Каликатский раджа не поверил его угрозе: он не думал, что существуют такие злодеи с таким переразвитым холодным рассудком.
kuzia_aka_zmey: Цивилизация это когда джентльмен изнасиловавший и убивший туземную девушку и забравший с ее тела мешок золота может спокойно жить не опасаясь разного рода варварски обычаев вроде восстановления справедливости или кровной мести.
sokuvar: Коммунизм — это по-моему абсолютно нелепая выдумка. Я даже в детстве не понимал,как можно работать без оплаты. А в армии окончательно убедился,что нет ничего более отвратительного, чем немотивированный труд. А либерализм стоит на нежелании платить долги обществу. Кредо либерала: я сделал себя сам и я никому ничего не должен. Государство не имеет права отправить меня на войну или еще какие-то оганичения накладывать на мою бесценную личность.
trita: На счёт сравнения длин воль логично было бы предположить, что есть понятие государства, как проявления холистической воли общего целого, которая естественным образом существует на макроуровне течения времени, потому и видится длинной на уровне индивида, а есть тот самый редукционистский "либерализм", который планомерно борется за разложение государственного во имя становления сиюминутного короткого индивидуального (классная, кстати, замануха для "малолетних дебилов" всех возрастов). Потому я не уверен, что у либеральной цивилизации есть какая-то единая уверенность, скорее есть атомизированная, но тотальная абсолютизация "я" каждого причастного этой церкви, которая торчит изо всех щелей жизнедеятельности этой цивилизации... Ну, пока им есть чего кушать, конечно, в смысле кого грабить и эксплуатировать.
Смирение подразумевает преодоление эгоцентризма, в противном случае "мыслить чисто" невозможно чисто технически, так как менталитет искажён кривизной сферы самости (если так можно сказать), порождающей позитивное расценивание себя и своих + негативное восприятие чужих, ну и пр. Когнитивные искажения типа "фундаментальной ошибки атрибуции". Предвзятость производна от самости. Абсолютизация частного — тоже.
kryloyashher: Любое государство существует ровно постольку, поскольку (и пока) есть длинная воля граждан этого государства. В этой парадигме китайцы культивируют свою длинную воли открыто, целенаправленно, и воплощается это в длительности существования и китайского государства и китайской культуры.
Запад же избрал другую стратегию: он свою длинную волю нацелил на культивирование короткой воли своих граждан. И население эту извращённую стратегию восприняло и повсеместно применяет — имеют задачу всей жизни (и передают её как ценность по культурному наследованию): сделать что-нибудь покороче и сейчас, чтобы потом ничего не делать.
Огрубляя, можно уподобить китайский путь "К-стратегии" биологической эволюции, а западный путь — "r-стратегии". Обе продлеваются в истории, но ниши разные.
Гениальность — оценка в системе аристократизма. Когда стала доминировать либеральная система оценки, главным критерием стала "громкость" — т.е. внешний эффект, даже точнее — эффектность. И все вокруг сразу стали "гениальнее". В этой толкотне и криках увидеть (и даже проявиться) действительному гению крайне трудно. Его особенность — качественная новизна. А она трудна для оценки и плохо "продаётся". Либерализм же опасен тем, что девальвирует само понятие "отбор" — погружая систему в "белый шум" равнозначности он топит гения как феномен. Гений (в силу своей частной гипертрофированности) ослаблен в социальном плане и в либеральной зыби выплыть не может. Кроме, разве, тех случаев, когда рядом оказывается талантливых проходимец и торгаш, который, паразитируя на гении, поднимается сам, но и вынужден поднимать свою дойную корову.
swamp_lynx: Западная литература 20-го века — это литература умирания. Развлечь себя перед концом. А Россия тяжёлой ценой, но будет жить.
russhatter: Несколько дней назад я наконец-то нашёл в себе ресурсы почитать Прачетта. И не смог прочесть больше где-то там 50 страниц. Отложил — и никак не мог сформулировать, почему. Вроде бы всё прикольно, остроумно, интеллектуально — но тошно ведь... Это уже после смерти можно такое читать, а можно и вообще обойтись — ничего не будет. За пределами бытия всё это.
memento_iv_ii. Смотрел недавно несколько лекций про пифагорейцев, абстрактное мышление (похоже) относительно недавнее явление, и взять то же учение пифагорейцев, каких-то двадцать пять веков назад, там переплетение математики и магии чисел (и математика у них находится только у своих истоков, у них вроде и понятия нуля не было).
sh_e_k: Умные люди мечтают быть еще умнее. Похоже они уверены, что не всё складывается как дОлжно из-за интеллектуального сбоя. Типа где-то немного недодумали. Но мой опыт говорит о противоположном, если б меньше ума было у умных людей бед было бы несравненно меньше. Мир просто напросто был бы совершенно другим.
Раньше, когда было меньше ума у людей и самих умных было в разы меньше ходила фраза: «как слон в посудной лавке». Сейчас забылась. Думаю по той причине, что теперь все интеллектуальные слоны в посудной лавке. Слону ж дело нет до чашек и тарелок, до каких-то пустяков, которые ему совершенно не нужны, он чувствует тесноту и пытается выбраться на волю. И конечно у него мечта обзавестись еще большей силой. Вот и умные люди мечтают об ИИ. Спасение в его силе.
Николай Исмуков. О «мирном сосуществовании» единичного, особенного и общего. «В диалектическом материализме абсолютизируется фаза противоречия в отношениях противоположностей. Но основное назначение диалектики заключается в том, чтобы снять противоречие сторон, их агрессивность, непримиримость мнений и привести мир, общество, человека к состоянию гармоничного, эволюционного, без катаклизмов, без кровавых революций, без раздвоения личности, развития… особенное не является результатом столкновения единичного и общего на перекрестном пути их взаимопереходов или доминирования одной из них над другой. Наоборот, именно в нем они приобретают себе состояние относительного покоя, именно их сжатое, сингулярное состояние не дает разрушаться отдельному. Более того, компоненты отдельного, которые являются носителями единичных и общих свойств и признаков, находя в особенном согласованность, максимальную упорядоченность, определяют вектор развития. С таких, на наш взгляд, позиций нужно подходить к проблеме национального в условиях вечного стремления наций к своей самостоятельности и сообществу. Сохранить отдельное, не отвергая в его же нуждах стороннее — таково природное, синергетическое назначение особенного» (Исмуков Н. А. Диалектика единичного, особенного и общего в системе некоторых универсалий философии. Вестник Российского университета кооперации, 2009).
«Особенное при нашей интерпретации заполняет то пространство, которое классическая диалектика оставляла незаполненным смыслом. Осваивая и преодолевая разрыв между единичным и общим в их постоянной противоречивости, особенное тем самым выступает совершенно новым измерением: оно есть межкатегориальное бытие, но перекинутое между единичным и общим на их же собственных опорах».
Цитата из Ленина: «Единство, совпадение, тождество, равнодействие противоположностей условно, временно, преходяще, релятивно. Борьба взаимоисключающих противоположностей абсолютна, как абсолютно развитие, движение». (ПСС. Т. 21. С 317). С тем же успехом можно предположить обратное: борьба противоположностей относительна, а их единство абсолютно, поскольку каждое движение начинается с нарушения существующего равноденствия и кончается равнодействием, покоем. Данное отдельное существует в пространстве и времени лишь постольку, поскольку противоположности в нем сосуществуют. Абсолютная же борьба всего и вся привела бы мир к аморфному состоянию вечного начала возникновения и исчезновения с пропуском цикла установления целостного отдельного. Притом, можно ли дать предпочтение какой-либо фазе отношений противоположностей — фазе равнодействия, тождества или конфликта и его разрешения? Еще Г. Спенсер, а затем И.А. Богданов развитие рассматривали как движение, направленное на достижение равновесия различных сил, как переход от одного равновесия к другому, за что они были подвергнуты уничтожающей критике сторонниками перманентных деструкций.
Александр Марков. Комнатные цветы — порождение буржуазной эпохи, как и сервировка стола или иллюстрированные журналы. Все эти обычаи подразумевают, что эстетическое уже не внедрено в образ жизни как некоторый неизбежный его эффект, как красота или достоинство труда, или сословная честь, или профессиональное достоинство. Напротив, требуется как бы некоторая эстетическая подготовка к профессиональному действию: сначала рассмотреть картинку, потом начать читать текст; сначала полить цветы, а после приняться за работу.
Появляется созерцание, которое соотносит тебя и твое тело с прежними обычаями высокопоставленных лиц: дворцовая галерея, театр, райские парки для королевских прогулок, сокровищницы. Дело не в том, что дворцовые обычаи вместе с сервизами и люстрами переходят в скромные буржуазные дома; а в том, что речевых, риторических средств уже недостаточно, чтобы утверждать собственное достоинство. Уже нельзя просто одним перформативным «я» заявить о своих правах, заявить, что ты хозяин в своем доме, маленький монарх. Напротив, суетливая жизнь обступает тебя со всех сторон, и чувственность, мгновенная экстатическая захваченность тем же запахом цветов, заменяет здесь риторику слова и жеста.
Ты становишься хозяином тогда, когда цветок на подоконнике как бы относит тебя запахом в область самодостаточной царственной телесности, как до этого делала это сказка с яркими иллюстрациями в книжке, тоже возвращая и принося тебя в мир королей. Маленькие зимние сады на подоконнике и детские комнаты с куклами и игрушками — итог единого развития такого переживания мнимой телесности, без которого невозможно обрести и настоящую взрослую телесность, пройти через кризисы взросления и старения.
Михаил Смирнов. Не без основания считается, что интеллектуальный всплеск Ренессанса, реформационные движения в христианстве, культурный импульс барокко, мощное движение идеологии Просвещения – существенно ограничили масштабы влияния мифо-ритуальных традиций на духовную жизнь европейского общества. Но крайним выражением этих процессов стало резкое противопоставление образованной части общества, включая церковные круги, обычаям и верованиям простого народа, толкуемым в лучшем случае как «дикость». Отсюда и проистекает распространившаяся манера применять к сознанию масс «критерии очищенной от суеверий и рафинированной религии образованных людей, изощренных в теологических спекуляциях и диспутах, знакомых по собственному или чужому опыту с мистическими экстазами и озарениями избранных», т. е. применение к народному сознанию масштабов, заведомо неадекватных.* Следствием этого на долгое время стало пренебрежительное отношение к магизму и обрядоверию как заблуждениям и бессмысленным выдумкам неразвитого сознания. Тем не менее ни религиозное воспитание, ни наука и просвещение не смогли полностью и бесповоротно устранить магический элемент из обыденной жизни христиан.
В XIX в. научная и философская мысль начинает преодолевать упрощенное отношение к мифам и народным верованиям, а XX столетие можно назвать периодом все более интенсифицирующихся исследований мифологии и мифосознания. Но с умножением научных изысканий обнаруживается неисчерпаемость исследуемого материала, причем не только за счет новых открытий в истории культуры, но в значительной степени благодаря постоянному современному мифотворчеству. Оказывается, что мифологическое мышление и мотивированное мифами поведение возобновляется при любом уровне социального и научно-технического развития. Вариативность контекста, конечно, налагает специфический отпечаток на социокультурное бытие мифа, но сам факт этого бытия выступает непреложной данностью.
* Гуревич А. Я. Средневековый мир: культура безмолвствующего большинства. М.: Искусство, 1990. С. 13.
Николай Фёдоров. ...Увлечение внешнею красотою чувственной силы, особенно в половом инстинкте, этом «обмане индивидуумов для сохранения рода», увлечение, не видящее или не желающее видеть в ней, в силе чувственной, и силу умерщвляющую, не видящее связанной с рождением смерти, и производит индустриализм, служащий к возбуждению полового инстинкта; индустриализм же создает для своей защиты милитаризм, производит богатство и бедность, а сии последние (богатство и бедность) вызывают социализм, или вопрос о всеобщем обогащении.
...Постановка во всей городской мануфактуре на первое место красочной промышленности, которой присвоено даже название «ученой индустрии», показывает, что вся промышленность, вся технология обречены на службу половому подбору, и это свидетельствует о глубоком унижении и позоре ума человеческого, о приближении человека к животности, о большем и большем нравственном упадке города. Можно сказать, что вся городская культура есть обожание, обоготворение, т. е. культ женщины.
Выделила 6 типов ошибок, враньё — это только один из. При этом по метрике, которой в машобучении принято оценивать эффективность, машина работает с этим материалом хорошо. А по факту, при ручной проверке, — из 85 текстов, написанных здоровыми, 70 признаны «ИИ» текстами больных; на текстах больных, пациентов НЦПЗ с диагнозом, точность примерно такая же — из 22 правильно категоризованы 19. А «пояснения ИИ» написаны так, что если вы не специалист, то ошибок и не заметите. (На всякий случай: проводили проверку вместе с моей подругой, проработавшей в ин-те психиатрии им. Ганнушкина МЗ РФ около 40 лет)." Наталья Чудова.
"Какой же смысл сокращать интеллектуальные усилия в обществе, а не наращивать их, когда наконец-то, впервые в истории человечества, людям в нашей части света не грозит голод и непосильный физический труд?
Инженерный подход — да, понимаю, Но инженер — человек серьёзный, он сто раз проверит и перепроверит надёжность и повторяемость, да и тупых решений, полученных только методом тыка, не допустит — просто из уважения к предмету. Зачем программисту-инженеру уподоблять свою работу надуванию мыльного пузыря?
Да, каждому хочется побыстрее и полегче. Но это же не общий принцип жизни, мы же когда пирожное едим не стараемся его сожрать в один присест и на прогулке не двигаемся скорей-скорей. Ну не хочется работать над текстами — не надо, но какой смысл поручать машине читать хорошее и интересное, а не заниматься этим самим? Вот зачем студенту собранный чатом реферат? Он потом что будет делать с этими недополученными и неприсвоенными знаниями? ...Вот у меня подруга, выйдя на пенсию, собирается розочки на даче сажать. И гоняет сейчас "ИИ" в поисках "правильных решений". Вот тут да, тут этот чат годится, если он предложит розы поливать соляной кислотой, она ему не поверит, а если он что полезное найдёт, то и хорошо."
russhatter: Беда программистов в том, что ровно то, что Вы им ставите в упрёк — "очень уж простой подход к текстам" — это ровно то, что они умеют, что у них получилось. А на шаг влево — на шаг вправо — нельзя, там бездны непроходимые и неведанные. Они "учили попугая", повторять, что слышит — и у них получилось. Научить попугая. После того, как они убедили богатеньких дядь предоставить им совершенно жуткие ресурсы на это занятие, это тоже очень важно. Так что не стреляйте в пианиста: играет, как умеет.В результате родилось нечто неведомое, не мышонка — не лягушка — а неведома зверушка. Родилось — и помирать не собирается. И надо учиться с этим жить, и на это уйдёт время. Но мы приспособимся, точно. Настроим этику правильно — мы уже освоили в этике компьютер, теперь это вот надо. И поймём, для чего стоит эту штуку использовать, а для чего — нет. А пока — так, да, кувыркаемся.
nchudova: Я ничего такого "субъектного" про нейросети, большие языковые модели и генераторы текстов не думаю. Субъектами деятельности, приводящей к а) заполнению третьего мира Поппера конфабуляциями ("галлюцинациями"), б) "переносу ответственности" и в) дезориентации населения, я считаю программистов, бизнес и государства, поддерживающие такой бизнес.А так нормально всё, болезни роста, когда-то нейросети были милым и мирным инструментом распознавальщиков, а теперь вот... Теперь вот они лично мне портят жизнь - кончилась моя работа по созданию методов текстовой социально-психологической диагностики. Теперь программисты только с LLM работать готовы, моделирование работы эксперта-диагноста они уже делать не хотят, баре все стали, за них машобучение пашет! Ну а результаты - ожидаемые, я их описала в посте для одного маленького примера.
Если кто-то готов возразить содержательно и разъяснить мне на пальцах как можно сделать классификатор на LLM надёжным и валидным инструментом распознавания в текстах различных типов высказываний (не А и неА, а 9 типов реакций на фрустрацию + фон, например) - буду благодарна. У себя в ин-те я "любви искала и не нашла".
Схема наших работ в последние года три, увы, такая.
Берём предобученную русскому языку LLM (обучают на больших корпусах, разные конторы - на разных, у кого-то больше СМИ, у кого-то включают Вики, у кого-то худ-лит, кажется, у всех НКРЯ). С т.з. лингвистики (точнее, В.А.Салимовского из ПермГУ) таким образом у "машины" формируется языковая системность. Вот этот алгоритм уже дообучается распознавать то, что нам нужно на нашем размеченном корпусе (однородном в жанровом отношении) - это уже обучение речевой системности. Ну и после - проверка на тестовом корпусе (тоже нашем, тоже размеченном). Проверка даёт хороший результат - F1-мера 70-80-90 (из 100 возможных). Все довольны, публикации, доклады, защиты дипломов у молодняка.
А потом я прошу показать мне результат - не в метрике машобучения, а живьём - к какой категории какой текст (или фраза, для некоторых задач) был отнесён. И вот результат - где 27% правильного распознавания, где 20%... А F-мера высокая, даже точность и полнота не ниже 70.
Ступор. Давайте заново корпус разметим и соберём побольше. Собираю и размечаю (не одна, с коллегами-психологами, берём только 100%-согласованные высказывания в обучающий корпус, разметка занимает 3-4 месяца). Ок, через месяц-другой у программистов — аналогичная картина. Машина не распознаёт в половине случаев даже то, что в случае "поиска по ключевым словам" распознаётся гарантировано - типа "ничего страшного" или "какой ужас!".
И объяснение есть - машобучение это ж про совместную встречаемость (ассоцианизм чистой воды, конец 19в). А вот эти ваши языковые клише или "лингвистические формулы" нейросеть не видит. А мы - выше этих ваших традиционных методов, да у нас и статьи про обычное программирование грамматики с лексикой не примут , теперь только большие языковые модели, только трансформеры, а теперь вот и генерация "текстов" (в кавычках, потому что буквосодержащий продукт, созданный без авторского замысла, не является текстом).
Ладно, выпустила пар, спасибо всем прочитавшим. Поставить методы автоматического анализа текстов (NLP) на службу социальной психологии больших групп мне не удалось. Пойду на пенсию. Лет через -дцать нейросетевой бум закончится, кто-то прочитает наши работы и заново возьмётся за разработку методов ИИ для текстовой психодиагностики и исследования национальной картины мира. Только уж жить в эту пору прекрасную...
Но Греф, заменивший в нашей стране работы в области ИИ на "тренировку нейросеток", конечно, сволочь.
platonicus: Послѣ доклада о "На рынкѣ бѣлыхъ бредовъ" М.Л. Гаспарову задали вопросъ, что онъ думаетъ о фрейдистскихъ, деконструктивистскихъ, феминистскихъ и прочихъ модныхъ практикахъ анализа. Онъ отвѣтилъ: "Это практика очень характерная для ХХ в., потому что это практика застѣнка. Заранѣе предполагается, что испытуемый лжетъ, но при примѣненіи вѣрной методики можетъ сознаться".sh_e_k: Говорят, что такого в уме, это всего лишь инструмент. Хм… Но ведь и водку можно посчитать всего лишь напитком, если б человек не изменялся употребляя её. Как человек становится алкоголиком точно также он становится умным. Не нужны никакие особые навыки или особые усилия, просто по пути будет оставлено мешающее стать алкоголиком или умным, остальное необходимое нарастет само собой. Это очень легкий путь, так как это путь физиологии. Психологический и физиологические автоматы всё сделают за тебя и потом будут удерживать в этом приобретенном кругу. И изнутри круга будет удивительно, что кто-то живет иначе - странные и непонятные люди со странными и непонятными понятиями и устремлениями.Алкоголик вряд ли когда признается, что он раб алкоголя, может на словах, может в какой-то момент и искренне, но потом посчитает, что это был момент слабости. Точно также и с умом. Умный человек никогда не признается, что он раб ума. Будут созданы разные умные конструкции, где это не так.
Заглянул в жж где умные люди обсуждают умную книгу с умной теорией. Очень странное впечатление. Люди безусловно умные и начитанные. И соответственно обмениваются умными и глубокими суждениями. Но всё это не имеет никакого смысла вне подобных обсуждений. То есть какая-то вещь очень сама в себе. Я сразу вспомнил Салтыкова-Щедрина с его характеристикой салонных бесед как журчание. Это очень точная метафора. Это однозначно чисто физиологическое действие. Расслабился и зажурчало.
И вот это очень популярное помешательство на уме, оно как будто не преодолимо. Это как у пойманного вора и подозрения не возникнет, что занимается чем-то неправильным. Скорее обвинит отвернувшуюся удачу, в крайнем случае заподозрит промашку в ловкости. Может зависть его удаче и смелости. Так и все умные люди будут считать, что все удивительные и дикие события в человеческом мире, это не от помешательства на уме, а от недостатка ума у всех остальных кроме себя.
papalagi: Дебил (в социальном смысле) -- человек живущий вне контекста.Наверное, это безнадежней дурака.
Дурак -- открыт для внешней жизни, он реагирует на происходящее, пусть по дурацки, но обратная связь наличествует. Дурак бывает растет.
Дебил -- закрыт, он живет в своих представлениях, и реальность на него не влияет, у него своя реальность. Он не растет, он врастает в свою дебильную реальность.
Понятно, тут есть спектр, градация, глубина. Бывает, во всем человек, как человек, но стоит затронуть тему, в которой человек дебил, пиши пропало.
Но это скорей моя персональная этимология, хотя выводы на ней основанные порой оказывались рабочими.)
Учитывая еще что контекст человеческой жизни сложен, можно и так выразить, нечто вроде -- дебил тот, кто считает свои представления единственно верными. В общем, несчастье.
mahadaridra: Англосферный вариант БЗ в своей тенденции низводит общую психическую организацию человека до уровня палеолита. Если всерьез отнестись к максиме "ничего личного, только бизнес", то сфера чувств оказывается ограниченной только "своими, лично близкими". Точно как в готтентотской "морали" : мы увели стадо у другого племени - это хорошо. Они у нас увели - это плохо. Предлагается палеолит с катастрофически переразвитым рассудком, то есть чудовищно опасный для всех. Сперва с идейным обоснованием этой тенденции справлялся кальвинизм, потом подключился и сатанизм.Во всей англоязычной фантастике по пальцем перечесть произведения, где всерьез обсуждается возможная высшая форма нравственности и что-то предлагается. Я вспоминаю только тетралогию Симмонса. Что-то робкое было еще у Хайнлайна. Ну может очень отчасти Азимов.
А так лейтмотив - дальнейшее развитие технического изобретательства с озверением
В Германии кальвинизма не было, поэтому гитлеровцы вынуждены были придумать неоязычество.
Японцы опирались в такой же тенденции на синто, а буддизм задвинули куда подальше
Однако какие-то ростки это жуткой тенденции есть уже в католицизме. Разное отношение к крещеным и некрещеным. Васко да Гама - ужасны злодей - ПРОСТО ТАК убил сотни индийцев, взяв их в заложники, но пощадил окрещенную на корабле девочку. Каликатский раджа не поверил его угрозе: он не думал, что существуют такие злодеи с таким переразвитым холодным рассудком.
kuzia_aka_zmey: Цивилизация это когда джентльмен изнасиловавший и убивший туземную девушку и забравший с ее тела мешок золота может спокойно жить не опасаясь разного рода варварски обычаев вроде восстановления справедливости или кровной мести.sokuvar: Коммунизм — это по-моему абсолютно нелепая выдумка. Я даже в детстве не понимал,как можно работать без оплаты. А в армии окончательно убедился,что нет ничего более отвратительного, чем немотивированный труд. А либерализм стоит на нежелании платить долги обществу. Кредо либерала: я сделал себя сам и я никому ничего не должен. Государство не имеет права отправить меня на войну или еще какие-то оганичения накладывать на мою бесценную личность.trita: На счёт сравнения длин воль логично было бы предположить, что есть понятие государства, как проявления холистической воли общего целого, которая естественным образом существует на макроуровне течения времени, потому и видится длинной на уровне индивида, а есть тот самый редукционистский "либерализм", который планомерно борется за разложение государственного во имя становления сиюминутного короткого индивидуального (классная, кстати, замануха для "малолетних дебилов" всех возрастов). Потому я не уверен, что у либеральной цивилизации есть какая-то единая уверенность, скорее есть атомизированная, но тотальная абсолютизация "я" каждого причастного этой церкви, которая торчит изо всех щелей жизнедеятельности этой цивилизации... Ну, пока им есть чего кушать, конечно, в смысле кого грабить и эксплуатировать.Смирение подразумевает преодоление эгоцентризма, в противном случае "мыслить чисто" невозможно чисто технически, так как менталитет искажён кривизной сферы самости (если так можно сказать), порождающей позитивное расценивание себя и своих + негативное восприятие чужих, ну и пр. Когнитивные искажения типа "фундаментальной ошибки атрибуции". Предвзятость производна от самости. Абсолютизация частного — тоже.
kryloyashher: Любое государство существует ровно постольку, поскольку (и пока) есть длинная воля граждан этого государства. В этой парадигме китайцы культивируют свою длинную воли открыто, целенаправленно, и воплощается это в длительности существования и китайского государства и китайской культуры.Запад же избрал другую стратегию: он свою длинную волю нацелил на культивирование короткой воли своих граждан. И население эту извращённую стратегию восприняло и повсеместно применяет — имеют задачу всей жизни (и передают её как ценность по культурному наследованию): сделать что-нибудь покороче и сейчас, чтобы потом ничего не делать.
Огрубляя, можно уподобить китайский путь "К-стратегии" биологической эволюции, а западный путь — "r-стратегии". Обе продлеваются в истории, но ниши разные.
Гениальность — оценка в системе аристократизма. Когда стала доминировать либеральная система оценки, главным критерием стала "громкость" — т.е. внешний эффект, даже точнее — эффектность. И все вокруг сразу стали "гениальнее". В этой толкотне и криках увидеть (и даже проявиться) действительному гению крайне трудно. Его особенность — качественная новизна. А она трудна для оценки и плохо "продаётся". Либерализм же опасен тем, что девальвирует само понятие "отбор" — погружая систему в "белый шум" равнозначности он топит гения как феномен. Гений (в силу своей частной гипертрофированности) ослаблен в социальном плане и в либеральной зыби выплыть не может. Кроме, разве, тех случаев, когда рядом оказывается талантливых проходимец и торгаш, который, паразитируя на гении, поднимается сам, но и вынужден поднимать свою дойную корову.
swamp_lynx: Западная литература 20-го века — это литература умирания. Развлечь себя перед концом. А Россия тяжёлой ценой, но будет жить.russhatter: Несколько дней назад я наконец-то нашёл в себе ресурсы почитать Прачетта. И не смог прочесть больше где-то там 50 страниц. Отложил — и никак не мог сформулировать, почему. Вроде бы всё прикольно, остроумно, интеллектуально — но тошно ведь... Это уже после смерти можно такое читать, а можно и вообще обойтись — ничего не будет. За пределами бытия всё это.memento_iv_ii. Смотрел недавно несколько лекций про пифагорейцев, абстрактное мышление (похоже) относительно недавнее явление, и взять то же учение пифагорейцев, каких-то двадцать пять веков назад, там переплетение математики и магии чисел (и математика у них находится только у своих истоков, у них вроде и понятия нуля не было).
sh_e_k: Умные люди мечтают быть еще умнее. Похоже они уверены, что не всё складывается как дОлжно из-за интеллектуального сбоя. Типа где-то немного недодумали. Но мой опыт говорит о противоположном, если б меньше ума было у умных людей бед было бы несравненно меньше. Мир просто напросто был бы совершенно другим.Раньше, когда было меньше ума у людей и самих умных было в разы меньше ходила фраза: «как слон в посудной лавке». Сейчас забылась. Думаю по той причине, что теперь все интеллектуальные слоны в посудной лавке. Слону ж дело нет до чашек и тарелок, до каких-то пустяков, которые ему совершенно не нужны, он чувствует тесноту и пытается выбраться на волю. И конечно у него мечта обзавестись еще большей силой. Вот и умные люди мечтают об ИИ. Спасение в его силе.
Николай Исмуков. О «мирном сосуществовании» единичного, особенного и общего. «В диалектическом материализме абсолютизируется фаза противоречия в отношениях противоположностей. Но основное назначение диалектики заключается в том, чтобы снять противоречие сторон, их агрессивность, непримиримость мнений и привести мир, общество, человека к состоянию гармоничного, эволюционного, без катаклизмов, без кровавых революций, без раздвоения личности, развития… особенное не является результатом столкновения единичного и общего на перекрестном пути их взаимопереходов или доминирования одной из них над другой. Наоборот, именно в нем они приобретают себе состояние относительного покоя, именно их сжатое, сингулярное состояние не дает разрушаться отдельному. Более того, компоненты отдельного, которые являются носителями единичных и общих свойств и признаков, находя в особенном согласованность, максимальную упорядоченность, определяют вектор развития. С таких, на наш взгляд, позиций нужно подходить к проблеме национального в условиях вечного стремления наций к своей самостоятельности и сообществу. Сохранить отдельное, не отвергая в его же нуждах стороннее — таково природное, синергетическое назначение особенного» (Исмуков Н. А. Диалектика единичного, особенного и общего в системе некоторых универсалий философии. Вестник Российского университета кооперации, 2009).
«Особенное при нашей интерпретации заполняет то пространство, которое классическая диалектика оставляла незаполненным смыслом. Осваивая и преодолевая разрыв между единичным и общим в их постоянной противоречивости, особенное тем самым выступает совершенно новым измерением: оно есть межкатегориальное бытие, но перекинутое между единичным и общим на их же собственных опорах».
Цитата из Ленина: «Единство, совпадение, тождество, равнодействие противоположностей условно, временно, преходяще, релятивно. Борьба взаимоисключающих противоположностей абсолютна, как абсолютно развитие, движение». (ПСС. Т. 21. С 317). С тем же успехом можно предположить обратное: борьба противоположностей относительна, а их единство абсолютно, поскольку каждое движение начинается с нарушения существующего равноденствия и кончается равнодействием, покоем. Данное отдельное существует в пространстве и времени лишь постольку, поскольку противоположности в нем сосуществуют. Абсолютная же борьба всего и вся привела бы мир к аморфному состоянию вечного начала возникновения и исчезновения с пропуском цикла установления целостного отдельного. Притом, можно ли дать предпочтение какой-либо фазе отношений противоположностей — фазе равнодействия, тождества или конфликта и его разрешения? Еще Г. Спенсер, а затем И.А. Богданов развитие рассматривали как движение, направленное на достижение равновесия различных сил, как переход от одного равновесия к другому, за что они были подвергнуты уничтожающей критике сторонниками перманентных деструкций.
Александр Марков. Комнатные цветы — порождение буржуазной эпохи, как и сервировка стола или иллюстрированные журналы. Все эти обычаи подразумевают, что эстетическое уже не внедрено в образ жизни как некоторый неизбежный его эффект, как красота или достоинство труда, или сословная честь, или профессиональное достоинство. Напротив, требуется как бы некоторая эстетическая подготовка к профессиональному действию: сначала рассмотреть картинку, потом начать читать текст; сначала полить цветы, а после приняться за работу.
Появляется созерцание, которое соотносит тебя и твое тело с прежними обычаями высокопоставленных лиц: дворцовая галерея, театр, райские парки для королевских прогулок, сокровищницы. Дело не в том, что дворцовые обычаи вместе с сервизами и люстрами переходят в скромные буржуазные дома; а в том, что речевых, риторических средств уже недостаточно, чтобы утверждать собственное достоинство. Уже нельзя просто одним перформативным «я» заявить о своих правах, заявить, что ты хозяин в своем доме, маленький монарх. Напротив, суетливая жизнь обступает тебя со всех сторон, и чувственность, мгновенная экстатическая захваченность тем же запахом цветов, заменяет здесь риторику слова и жеста.
Ты становишься хозяином тогда, когда цветок на подоконнике как бы относит тебя запахом в область самодостаточной царственной телесности, как до этого делала это сказка с яркими иллюстрациями в книжке, тоже возвращая и принося тебя в мир королей. Маленькие зимние сады на подоконнике и детские комнаты с куклами и игрушками — итог единого развития такого переживания мнимой телесности, без которого невозможно обрести и настоящую взрослую телесность, пройти через кризисы взросления и старения.
Михаил Смирнов. Не без основания считается, что интеллектуальный всплеск Ренессанса, реформационные движения в христианстве, культурный импульс барокко, мощное движение идеологии Просвещения – существенно ограничили масштабы влияния мифо-ритуальных традиций на духовную жизнь европейского общества. Но крайним выражением этих процессов стало резкое противопоставление образованной части общества, включая церковные круги, обычаям и верованиям простого народа, толкуемым в лучшем случае как «дикость». Отсюда и проистекает распространившаяся манера применять к сознанию масс «критерии очищенной от суеверий и рафинированной религии образованных людей, изощренных в теологических спекуляциях и диспутах, знакомых по собственному или чужому опыту с мистическими экстазами и озарениями избранных», т. е. применение к народному сознанию масштабов, заведомо неадекватных.* Следствием этого на долгое время стало пренебрежительное отношение к магизму и обрядоверию как заблуждениям и бессмысленным выдумкам неразвитого сознания. Тем не менее ни религиозное воспитание, ни наука и просвещение не смогли полностью и бесповоротно устранить магический элемент из обыденной жизни христиан.
В XIX в. научная и философская мысль начинает преодолевать упрощенное отношение к мифам и народным верованиям, а XX столетие можно назвать периодом все более интенсифицирующихся исследований мифологии и мифосознания. Но с умножением научных изысканий обнаруживается неисчерпаемость исследуемого материала, причем не только за счет новых открытий в истории культуры, но в значительной степени благодаря постоянному современному мифотворчеству. Оказывается, что мифологическое мышление и мотивированное мифами поведение возобновляется при любом уровне социального и научно-технического развития. Вариативность контекста, конечно, налагает специфический отпечаток на социокультурное бытие мифа, но сам факт этого бытия выступает непреложной данностью.
* Гуревич А. Я. Средневековый мир: культура безмолвствующего большинства. М.: Искусство, 1990. С. 13.
Николай Фёдоров. ...Увлечение внешнею красотою чувственной силы, особенно в половом инстинкте, этом «обмане индивидуумов для сохранения рода», увлечение, не видящее или не желающее видеть в ней, в силе чувственной, и силу умерщвляющую, не видящее связанной с рождением смерти, и производит индустриализм, служащий к возбуждению полового инстинкта; индустриализм же создает для своей защиты милитаризм, производит богатство и бедность, а сии последние (богатство и бедность) вызывают социализм, или вопрос о всеобщем обогащении.
...Постановка во всей городской мануфактуре на первое место красочной промышленности, которой присвоено даже название «ученой индустрии», показывает, что вся промышленность, вся технология обречены на службу половому подбору, и это свидетельствует о глубоком унижении и позоре ума человеческого, о приближении человека к животности, о большем и большем нравственном упадке города. Можно сказать, что вся городская культура есть обожание, обоготворение, т. е. культ женщины.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2025-02-02 10:07 am (UTC)> если он предложит розы поливать соляной кислотой, она ему не поверит
А если подсыпать каждую розу волшебным удобрением, тайно продающимся на секретном украинском сайте, и обвязывать шёлковой ниточкой из тибетского монастыря — поверит, да ещё всем расскажет.
Да и насчёт кислоты я бы не был так уверен.
no subject
Date: 2025-02-02 10:28 am (UTC)бедный Николай Федоров. То был вовсе не культ женщины и плодородия, как это представлялось тогда под яркими одеждами крылатого эроса, созданными художниками-академистами и театром 19 и начала 20 веков, а начало богемизации общества и разрушения его органических оснований рациональной машинной цивилизацией, ведущего к исчезновению женственности, мужественности и бесплодной импотенции, но компенсируемый тогда в просвещенных кругах чувственной эротикой на фоне освобождения женщины от своего предназначения быть женой и матерью, которое в то время еще сохранялось среди крестьян, хлынувших тогда в города и оттянувших на полвека кризис самовоспроизводства общества и государства. подавив на время городскую буржуазию и богему в сталинскую мобилизацию.
Однако тема глубинной связи рождения и смерти, обостренная в христианском контексте, обозначена им верно — вид жив в рождении и смерти индивида, а русский космизм в лице Федорова, Циолковского и Чижевского не могли этого принять и мечтали о вечной жизни индивида в космосе за счет энергий излучения звезд, а не поедания животной пищи...