Дарья Новости 12 декабря 2023

Запустили llm.js — библиотеку для запуска больших языковых моделей в браузере

Появилась библиотека llm.js для запуска больших языковых моделей в браузере. Она написана на JavaScript. Библиотеку опубликовали на GitHub.

просмотры 471 🕑 1 мин. чтения

» Запустили llm.js — библиотеку для запуска больших языковых моделей в браузере

Библиотека поддерживает разные популярные решения, в том числе llama-cpp (GGUF/GGML); LLaMa 2; Dolly v2; GPT2; GPT J; GPT NEO X; MPT; Replit; StarCoder.

Для тестов доступна песочница и несколько тестовых проектов. Отмечается, что скорость генерации ниже, чем в других больших библотеках.

Предполагается, что добавят новые модели и форматы. llm.js можно применять в собственных веб-приложениях. На сайте есть вся необходимая информация для ее подключения.

Недавно мы писали, что API Compression Streams сжимает и распаковывает потоки данных. Он использует форматы gzip или deflate (или deflate-raw). Благодаря API размер приложения не увеличивается: библиотека сжатия больше не нужна.

Автор: Дарья Теги: llm.js

Что нового в Chrome 123

С помощью новой функции light-dark() можно адаптировать свою цветовую схему; диагностика отзывчивости сайта с помощью API Long Animation Frames; с помощью API статической маршрутизации Service Worker можно избегайте снижения производительности при запуске Service Worker

Microsoft представила бета-версию TypeScript 5.7 с новыми улучшениями

На этой неделе компания Microsoft анонсировала выпуск бета-версии TypeScript 5.7, которая приносит ряд значительных улучшений, направленных на упрощение работы разработчиков.

Dev новости: Astro управление через API, тонкая настройка gtp4

Мир технологий продолжает развиваться стремительными темпами, и последние новости показывают, что инструменты для разработки на базе ИИ становятся все более востребованными, а фреймворк Astro готовится к поддержке сайтов с огромным количеством страниц. Поговорим о последних достижениях, касающихся использования ИИ и развития популярных фреймворков.

Веб-фреймворк для Node.js Express выпустил версию 5 с улучшенной безопасностью и производительностью

Команда разработчиков Express, минималистичного и быстрого веб-фреймворка для Node.js, представила долгожданную версию 5. В этом обновлении акцент сделан на модернизации системы за счет прекращения поддержки устаревших версий Node.js, в частности, версий до v18. Этот шаг направлен на повышение безопасности и упрощение обслуживания, что, в свою очередь, позволило внести критически важные улучшения в производительность.