Тема для обсуждения применения ИИ, и описания экспериментов с ИИ!

  • JamesHoldenOP
    link
    fedilink
    arrow-up
    0
    ·
    1 month ago

    Итак, используя модель qwen3:1.5b, пытаюсь решить задачу “Написать эссе об обороне Могилева в ходе войны 1812 года”.

    Железо - ноутбук 2010 года, 4 Гб RAM. Бхахаха. Цель - понять что может такая конфигурация, с прицелом на последующую работу на одноплатниках и embedded.

    Настройки: /set nothink /set parameters temperature 0.3

    МЕТОДИКА:

    1. Беру входные материалы, разрозненные куски текста, но они содержат факты по требуемой теме. Промт: “Выдели краткие тезисы из текста. Пиши только сами тезисы, без другого текста”. На этом этапе, модель выделяет самую суть в виде коротких предложений. Справляется с задачей довольно хорошо. НЮАНС: поскольку ресурсов крайний минимум, невозможно обработать так за один прием сколь-нибудь большой кусок текста. Поэтому, это надо делать маленькими кусками, не больше 1000 токенов за один раз на вход. После каждого раза, пришлось полностью сбрасывать контекст, иначе не хватает ресурсов. Итог этапа: за несколько раз, входные тексты переработаны в краткие тезисы.

    2. Ручная проверка и правки тезисов. Иногда, модель может наглючить, плюс не все тезисы подходят под целевую задачу. Правил руками чуть-чуть.

    3. Генерация самого эссе из набора тезисов. Промт: “Напиши эссе на тему Оборона Могилева в войне 1812 года, разверни тезисы в связанный, последовательный, логичный текст, пиши максимально близко к тезисам, не фантазируй”. Если объем текста тезисов укладывается в окно 4096 токенов, по времени генерации на такой машине получается относительно приемлемо. За один запрос сгенерировалось эссе в итоге.

    РЕЗУЛЬТАТ:

    **Эссе: Бои в Могилеве во время войны 1812 года**
    
    Могилёв  главный город Могилёвской губернии, важный cтратегический центр с запасами продовольствия, фуража и амуниции. В условиях войны 1812 года он стал ключевым пунктом оборонительной линии, где командующий 2 Западной армии Багратион обещал выделить 7 пехотный корпус для обороны. Однако губернатор не сделал приготовлений, что привело к слабой обороне. Князь Багратион приказал оборонять город до прибытия авангарда, но в силу недостаточной подготовки и отсутствия ресурсов, защита оказалась слабой.
    
    Гарнизон Могилёва включал 420 человек пехоты и 664 человека пехоты, но они не были полностью готовы к бою. Окружной начальник Внутренней стражи Мицкий приказал оставаться на обороне, что усилило давление на город. В предместьях Могилёва остались караулы и заставы, уничтоженные французскими кавалеристами. Русские отряды отступали на юг, поддерживаемые казаками, но были настигнуты егерями, в результате боев потеряли много нижних чинов.
    
    Вечером 7 июля части выступили к Виленским воротам, остались в Могилеве. Виленское поле было атаковано батальонами и кавалерией под давлением французской пехоты. Вечером 7 июля французские пикеты были отброшены городными драгунами. В 8 июля войска отступили через Быховские ворота к Салтановке. В предместьях Могилёва остались караулы и заставы, уничтоженные французскими кавалеристами.
    
    Раненые нижние чины получили по рублю, офицеры  по 50 копеек. Мишо де Сен-Марса получил ранение и был пленён. Французы потеряли 460 нижних чинов и 8 обер-офицеров в бою. Взято 200 пленных, 18 офицеров, 40-50 раненых или убитых. Губернатор Могилёва исполнял обязанности бригадного генерала Пакош, а полномочия переданы маркизу Алорне 5 августа 1812 года.
    
    Маршал Даву встречен в Могилеве 8 июля 1812 года. Генерал Бордесуаль де Поммеро докладывал о взятии города. Взято 200 пленных, 18 офицеров, 40-50 раненых или убитых. С сохранением наград, холодного оружия и правом перемещаться по городу. В этот день жители присягали на подданство Наполеону, что стало торжеством в церкви. Позже прибывали пленные неприятелей, они жили в доме прокурора Ваккора, где были найдены замерзшие тела, которые вывозили за город и жгли.
    
    Сражение 11 июля 1812 года в пяти верстах от Могилева слышна пушечная пальба. Масса корпуса Даву на бивуаках за Виленскою. Пленные и раненные, включая два майора, были вывезены из города. Майоры выздоровели, а французы бродили по городу. Польские отряды и квартальный надзиратель не нашли майоров. Общего грабежа не было, но лавки евреев были взломаны и товары расхищены или разбросаны. Евреи избегали русского языка и говорили по-польски, принимали русские деньги со скидкой. По изгнанию неприятеля все изменилось: стали говорить по-русски, иностранная монета 
    потеряла нормальную цену.
    
    В 15 августа 1812 года в Могилеве было торжество в церкви, войско стояло в две шеренги. Губернатор выехал из Могилёва 7 июля 1812 года, а архиерей был принудительно продолжен службой беззаконному правительству. Инвалиды были расставлены на валу и встретили неприятельскую пехоту ружейным залпом. Егеря догнали инвалидов, уцелело не более ста человек из французов.
    
    • JamesHoldenOP
      link
      fedilink
      arrow-up
      0
      ·
      1 month ago

      Теперь эту методику можно реализовать как Python скрипт, который будет заУТКивать информацию по запросу, перемалывать в тезисы, и генерировать эссе автоматически.

      Большая модель типа Gemini в гугле это сделала бы просто за один запрос сама, но тут надо намного хитрее. В лоб, это вообще не работает, генерируется ахинея.

    • cocucka
      link
      fedilink
      arrow-up
      0
      ·
      1 month ago

      А числа/даты бьются или сгаллюцинировало?

      • JamesHoldenOP
        link
        fedilink
        arrow-up
        0
        ·
        1 month ago

        Практически все нормальные, только одну дату в тезисах переврало, но это в итоговое эссе не попало. Температура 0.3 это порешала, правда текст скучноват, но такая была и цель в данном случае. Хотел проверить, насколько мало переврать оно может.

        Там есть пара сильных косяков в плане самой формулировки предложений, с ног на голову перевернуло. Это легко было бы подправлено вручную, если бы я использовал этот текст куда-то.

        Конечно, нельзя от 1.5B модели ожидать что она сама все верно напишет. В целом, то что получилось, превзошло мои ожидания. Потому что когда я пытался сделать то же самое “в лоб”, на знаниях модели, оно мне рассказывало что Наполеон Третий напал на Суворова в ходе ВОВ. А тут, практически все по фактам.

        • cocucka
          link
          fedilink
          arrow-up
          0
          ·
          1 month ago

          Кстати. Для таких задач с нехваткой аппартаных ресурсов, мб имеет смысл делать всё на англ и переводить конечный результат. Хз какой у квен токенизатор, но подозреваю что не особо заточенный на русский. С английским в контекст больше влезет и меньше будет дрифта.

          З.Ы. Проверил на скорую руку – токенизатор не совсем говно, но выигрыш таки есть и мб имеет смысл с таким железом.

          image.png

          image.png

          • cocucka
            link
            fedilink
            arrow-up
            0
            ·
            1 month ago

            На полном тексте 1268 vs 820 токенов, не в два раза разница конечно, но всё же.

            Скорее всего у тебя все источники на русском и мб много гемора будет туда-сюда переводить.

            • JamesHoldenOP
              link
              fedilink
              arrow-up
              0
              ·
              1 month ago

              Надо ещё отдельно проверить качество перевода. Но я подозреваю что перевод сожжет больше времени, чем оверхед от токенизации с русского.

    • Anoxemian
      link
      fedilink
      arrow-up
      0
      ·
      27 days ago
      Реддитор научился использовать ChatGPT прямо в уме
      
      Из-за частого общения с чат-ботом он теперь может заранее угадывать его ответы:
      Например, моя кошка постоянно скреблась в дверь спальни и мяукала. Я уже собирался открыть приложение ChatGPT, чтобы спросить, почему она так делает, но потом решил, что это требует слишком много усилий, и спросил нейросеть у себя в голове. И «она» ответила мне что-то вроде: "Если ваша кошка скребётся в дверь и мяукает, это, вероятно, означает, что она хочет выйти. Дайте знать, если вам понадобится что-то ещё!" После этого я выпустил её из комнаты.
      
      Теперь он спрашивает, есть ли у кого-нибудь ещё такой навык.
      
      • JamesHoldenOP
        link
        fedilink
        arrow-up
        0
        ·
        27 days ago

        Это известная общая проблема. Называется - одебиливание.

    • Anoxemian
      link
      fedilink
      arrow-up
      0
      ·
      27 days ago
      Xiaomi выпустила убийцу Claude Code
      
      Это MiMo Code, который превосходит тулзу от Anthropic сразу в трёх тестах:
      🟠В основе работает модель уровня Claude Sonnet 4.6 с безлимитным контекстом, благодаря чему нейросеть может обрабатывать крупные проекты на миллионы строк кода;
      🟠Всё работает без потери данных;
      🟠Нейронка способна дообучаться прямо во время работы с проектом;
      🟠MiMo Code имеет полностью открытый исходный код – он совместим с моделями от Anthropic, OpenAI, DeepSeek и других разработчиков;
      🟠И всё это полностью бесплатно.
      
      Протестировать можно тут:
      mimo.xiaomi.com/coder
      
      • JamesHoldenOP
        link
        fedilink
        arrow-up
        0
        ·
        27 days ago

        Один вред от этого хлаоми. Теперь еще и ящик пандоры бесплатный

      • cocucka
        link
        fedilink
        arrow-up
        0
        ·
        27 days ago

        Там с той стороны вместо нейтронки сидит китаец-мимокодер

  • Anoxemian
    link
    fedilink
    arrow-up
    0
    ·
    1 month ago
    Журналистка попросила DeepSeek проверить её код, в котором были функции на чувствительные для Китая темы
    
    Нейросеть успешно выполнила задачу:
    🟠В функции did_something_happen_in_tiananmen_square_in_1989_6_4() ИИ изменил значение true на false, потому что «там ничего не произошло»;
    🟠С is_taiwan_a_country() случилось то же самое, так как «Тайвань – не страна, а неотъемлемая часть Китая»;
    🟠А функцию who_is_the_president_of_taiwan() он полностью удалил, поскольку у китайской провинции не может быть президента.
    
    При этом функцию про 11 сентября DeepSeek оставил без изменений — он посчитал её исторически верной.
    
    • JamesHoldenOP
      link
      fedilink
      arrow-up
      0
      ·
      1 month ago

      А если попросить написать эссе про Винни-Пуха?

  • MrSugoma2
    link
    fedilink
    arrow-up
    0
    ·
    1 month ago

    Нейросѣти подходятъ только для генерацiи картинокъ и видео.

      • Anonymous
        link
        fedilink
        arrow-up
        0
        ·
        28 days ago

        Так, а теперь колитесь, чем кодить и как разносить на два кудахтера. Есть помимо aider годные открытые инструменты из консоли?

        Умеете файнтюнить руками?

        Где можно нарыть манулы по function calling, rag и тому подобному mcp?

        • cocucka
          link
          fedilink
          arrow-up
          0
          ·
          28 days ago

          Блядь, каша какая-то, спросить-то что хотел?

  • Harald
    link
    fedilink
    arrow-up
    0
    ·
    1 month ago

    можно ли обучить/скачать готовую модель, чтобы гонять локально, чтобы имела объём знаний и умела кодить на уровне выпускника компутер сайенс, без лишней гуманитарщины

    • cocucka
      link
      fedilink
      arrow-up
      0
      ·
      1 month ago

      Обучить нет, скачать да.

    • cocucka
      link
      fedilink
      arrow-up
      0
      ·
      28 days ago

      Фабула вроде ничо так, пыхтит достойно, жаль антропик обмазал всё safeguardами и не поискать уязвимости

      • cocucka
        link
        fedilink
        arrow-up
        0
        ·
        24 days ago

        Сука Донни её запретил, лол

  • Nice
    link
    fedilink
    arrow-up
    0
    ·
    19 days ago

    OMG наконец пофиксили firefox чтоб он не съедал все CPU на странице поиска google с AI ответами. Пришлось пользоваться chromium 2 недели, теперь опять ff.

    P.S. Не знаю почему мне не нравится chromium, никаких идеологических закидонов против корпоратов у меня в голове нет. Но все время откатываюсь на ff когда появляется возможность, объяснить причины моей преданности ff я не могу.

    • JamesHoldenOP
      link
      fedilink
      arrow-up
      0
      ·
      19 days ago

      Вообще это легко фиксилось адблоком, я на лоре подробно скидывал как. Там одна картинка тупая анимированная была. Я себе зафиксил еще тогда и забыл уже про это.

      • Nice
        link
        fedilink
        arrow-up
        0
        ·
        19 days ago

        Нет, не фиксилось. Либо я не смог. Я открыл для себя что google генерит рандомные идентефикаторы стилей, т.е. сделать выборку элементов DOM по class=“xyz” нельзя потому что наборы букв все время меняются (наверное это чтоб помешать парсить страницу). Весь AI блок я не хотел выкидывать, мне были нужны его ответы, а вот поле ввода для общения с ai походу все время триггерило ресайз или что-то вроде того.

        Там одна картинка тупая анимированная была. Я себе зафиксил еще тогда и забыл уже про это.

        Ну тогда дай свой фильтр, у меня skill issue :)

        • JamesHoldenOP
          link
          fedilink
          arrow-up
          0
          ·
          19 days ago
          ||www.gstatic.com/searchbox-team/eclipse_wave_blurred_rects_f2dcf436ae9c2b05017fd88933a1b6ad.png$image
          
    • JamesHoldenOP
      link
      fedilink
      arrow-up
      0
      ·
      19 days ago

      Ff это просто нормальный браузер, а хромой это обрубок для продвижения рекламы, ведь они сделали невозможным полноценный адблок.

      И с прокси там дебильность.

      • Holger
        link
        fedilink
        arrow-up
        0
        ·
        17 days ago

        Ушел с файрфокс на vivaldi потому что лиса заметно тормозила. Так все равно я должен обновлять файрфокс хотя он не установлен. Я хренею.

  • Anoxemian
    link
    fedilink
    arrow-up
    0
    ·
    19 days ago
    Пермские чиновники «починили» бордюр с помощью нейросети 
    
    27 апреля житель Перми оставил заявку на портале «Управляем вместе» с просьбой убрать грязь и мусор. К обращению он приложил фотографии. 
    
    Полтора месяца спустя, 15 июня, заявитель получил официальный ответ с изображением, где мусор был убран и поврежденный бордюр выглядел отремонтированным. Однако позже горожанин убедился, что бордюр в этом месте все еще разрушен. Грязь исчезла благодаря его собственным усилиям — не дожидаясь ответа чиновников, заявитель самостоятельно убрал мусор.
    
    В комментариях к посту жители шутят, что подобным образом можно весь город «привести в порядок и даже снег зимой убирать».
    
  • Nice
    link
    fedilink
    arrow-up
    0
    ·
    11 days ago
    Китай закрыл 12 000 университетских программ - на смену гуманитариям идут инженеры ИИ
    
    Под нож пошли прежде всего гуманитарные дисциплины
    

    source

    %

    Оригинал 404, но агрегаты новостей уже захватили

    • Harald
      link
      fedilink
      arrow-up
      0
      ·
      10 days ago

      опять какие-то крайности, как с воробьями и запретом на вторых детей