Экспромт хорош тогда, когда хорошо подготовлен

Компания Apple запрещает своим сотрудникам доступ к ChatGPT, присоединяясь к другим компаниям, которые опасаются утечек [корпоративных секретов] — сообщает Wall Street Journal.

Перед этим аналогичное решение приняло Агенство по защите окружающей среды (EPA), это федеральное правительственное учреждение в США: "At this time, agency personnel are not authorized to use Artificial Intelligence tools (e.g., ChatGPT, OpenAI, etc.) for official use." Судя по всему, по тем же причинам.

А как послушаешь маркетинговые отделы всех этих технологических компаний, вовлечённых в AI-хайп, всех этих AI-евангелистов — так нас всех ждёт славное будущее: AI во все поля, молочные реки и кисельные берега, беги бегом, смотри не опоздай. Но сами они этот "AI-рай" почему-то воспринимают без ажиотажа и отчего-то туда не торопятся.

Представляете, что было бы, если бы именитый табачный производитель наподобие Philip Morris или Marlboro по-крупному вложился в раскрутку лозунга "курение — это стильно" (через рекламу, product placement в фильмах, взятки звёздам поп-музыки и т.д.), а затем внезапно запретил курить всем своим сотрудникам по соображениям здоровья?

Одновременно с этим Microsoft (а точнее Панос Панай, продуктовый директор по Windows и устройствам) анонсирует более широкое внедрение AI в Windows 11, "чтобы встретить эту новую эру AI", в частности обещает "находиться на переднем крае AI-трансформации", а также "с помощью правильных инструментов расширить возможности разработчиков и наших общих клиентов формировать будущее и оставлять свой свой след в мире".

Так что шах и мат, партизаны! Запретили ChatGPT? Ладно-ладно. А теперь попробуйте-ка запретить Windows! Выкусили? От AI-счастья не спрятаться, не скрыться. Добром накроет всех!

Как я и предполагал, под эту AI-сурдинку индусы просто натолкают в винду ещё больше способов сбора телеметрии, уже не прикрываясь фиговым листочком "как бы настроек" между уровнями телеметрии Basic и Full, которые отличаются только количеством источников собираемых в вашей винде данных: 410 для Basic, 422 для Full.

P.S. Интересно, получится ли хакнуть встроенного в винду искусственного идиота через prompt injection — например, посредством отображаемого на экране текста? На данный момент prompt injection attack — это нерешённая проблема в LLM.

Журнал PC World спекулирует на тему "как бы Windows 12 могла улучшиться за счёт AI". Статья выглядит как творчество ChatGPT. Или это какая-то пародия?

https://www.pcworld.com/article/1508826/12-ways-ai-could-improve-windows-11-or-windows-12.html

Немецкая спецслужба BSI (Федеральное управление по информационной безопасности) продолжает свой проект Sisyphus по изучению телеметрии Windows 10.

За время, прошедшее после публикации последнего отчёта, немцы разработали собственную утилиту с открытым исходным кодом — System Activity Monitor — которая позволяет подключаться к ETW-провайдерам (компонентам первичного сбора телеметрической информации, работающим как в ядре, так и в юзерспейсе) и осуществлять запись потока событий в формате, удобном для последующего анализа.

В самой Windows 10 сбор телеметрии настраивается (на низком уровне) через конфигурационный файл-профиль (%ProgramData%\Microsoft\Diagnosis\DownloadedSetttings\utc.app.json). Этот профиль перечисляет все источники событий (ЕTW-провайдеры), которые должны быть включены, и отличается в зависимости от сборки и редакции Windows, заданного в настройках уровня собираемой телеметрии, языка и региона (Microsoft может создавать конфигурации для конкретных регионов, например, в зависимости от применимых законов о защите данных). Может, бывают индивидуальные профили для "особо интересных" пользователей, не знаю. Например, на моей тестовой виртуальной машине, куда установлена чистая Windows 10 Pro на основе ISO-файла из MSDN, в этом файле 422 провайдера на уровне телеметрии "Full" и 410 провайдеров на уровне телеметрии "Basic". Как видите, Microsoft уважает ваши настройки конфиденциальности в Windows 10.

Утитита SAM от BSI позволяет выбирать "индивидуальные пункты меню" при построении профиля слежки за пользователем, с целью изучения того, как оно работает по отдельности; плюс содержит удобные средства для десериализации собранных событий, их преобразования в открытый формат, с целью последующего анализа, например в Logstash, ElasticSearch и Kibana. Короче, это консольная утилита для работы с профилями и первичного преобразования потока собираемых ЕTW-событий.

Ссылки:
1. Общее описание на немецком
2. PDF-файл с примерами на английском
3. System Activity Monitor (исходные коды на C++, а также установщик)

В антивирус Norton 360 недавно встроили майнер криптовалюты, выполняющийся на пользовательских компьютерах. Электричество и амортизация оборудования (как правило, говённых одноразовых ноутбуков, которые и так на ладан дышат) — за счёт пользователя, криптовалюта — Ethereum, 15% — компании-разработчику, остальное — типа пользователю (а на самом деле — тем же скаммерсантам). Ключ от кошелька хранится где? Правильно, "в облаке". Ха-ха. Как известно, "not your keys — not your coins".

https://krebsonsecurity.com/2022/01/norton-360-now-comes-with-a-cryptominer/

Избавиться от криптомайнера пока ещё возможно, хотя и не самым очевидным образом (для этого нужно отключить самозащиту антивируса под названием Norton Product Tamper Protection, а затем вручную удалить файл NCrypt.exe с диска):

https://www.theregister.com/2022/01/05/norton_360_cryptominer_deletion/

Вся эта ситуация лишний раз доказывает, что антивирусы — это в целом такой же скам, как и вирусы. Личных данных пользователей и информации с пользовательских компьютеров этой паразитической мудосрани, видите ли, уже недостаточно, теперь им ещё и крипту подавай.

Как известно, высшие приматы воспринимают цвет своими палочками и колбочками немного не так, как он объективно существует в природе (в виде электромагнитных волн разной длины): синий при той же мощности излучения кажется менее ярким, чем зелёный; восприятие длин волн на краях видимого спектра имеет корреляции; помимо трихроматов, изредка встречаются дихроматы и тетрахроматы и т.д.

Это создаёт спрос на субъективные (перцептивные) модели цвета, в дополнение к объективной RGB.

Björn Ottosson в своём блоге рассматривает новую перцептивную цветовую модель — Oklab (как альтернативу HSV):

https://bottosson.github.io/posts/oklab/

Зачем?

Ну, во-первых, чтобы убрать эти ужасно выглядящие "яркостные занавески" в color picker'ах:

Было:


Стало:



Во-вторых, чтобы в градиентах между белым и синим не было розового цвета, а в градиентах между красным и зелёным не было провала в яркости:



Перцептивная цветовая модель Oklab, помимо color picker'ов, полезна там, где нужен цветовой ряд с меняющимися оттенками, но с постоянной яркостью и насыщенностью (например, для раскраски нескольких кривых на одном графике, чтобы их яркость или сероватость не шли вразнобой).

Преобразование между RGB и Oklab имеет простую алгебраическую структуру: оно делается путём умножения на постоянную матрицу, покомпонентного возведения в куб (или покомпонентного извлечения кубического корня) и затем ещё одного умножения на постоянную матрицу.

Обзор и критика Oklab (в целом, позитивные):
https://raphlinus.github.io/color/2021/01/18/oklab-critique.html

Немного поработав с Oklab в своём софте, я заметил, что полярные координаты (lightness, chroma, hue) удобнее линейных (lightness, a, b).

Также полезна функция вычисления предельной насыщенности для заданной яркости и оттенка (цвета, слишком далеко ушедшие от серого, не представимы в RGB, а предельная насыщенность может быть найдена бинарным поиском по критерию этой самой представимости в RGB).

Этот график построен для постоянной яркости 0.75, по оси X — оттенок, по оси Y — насыщенность:


В целом Oklab очень хорошо соответствует своей цели — позволяет без смещения оттенка легко подбирать цвета с другой яркостью и насыщенностью; или при фиксированной яркости и насыщенности варьировать оттенком; а ещё обеспечивает перцептивно-корректное смешивание цветов (например, в градиентах, а также как альтернатива гамма-коррекции при alpha blending'е и т.д.)

Как известно, сейчас видеокарты резко подорожали и практически исчезли из продажи, в связи с очередной волной хайпа вокруг майнинга криптовалют.

Вот график средней долларовой цены в рознице для самой типичной игровой видяхи ASUS DUAL-RX5600XT-T6G-EVO, за последние полгода:


А вот за последнюю неделю стоимость этой и других подобных видеокарт лучше всего иллюстрирует анекдот:
— Рабинович, а почему вы продаете водку "Абсолют" по десять рублей, когда у Меерсона она стоит пять?
— Ой, мне нравятся эти разговоры! Пойдите и купите водку "Абсолют" у Меерсона!
— Но у Меерсона как раз сейчас нет водки "Абсолют"!
— Ну так когда и у меня не будет водки "Абсолют", я тоже сразу начну продавать её по пять рублей.

С продукцией nVidia — всё то же самое.



Так когда же подешевеют видеокарты? Когда уже пройдёт волна этого всеобщего помешательства и народ, наконец-то, наиграется в майнинг и быстрое обогащение?

( Давайте сами вычислим )

по оптимистическому сценарию видяхи подешевеют примерно через 8 месяцев, а по пессимистическому сценарию — примерно через полтора года. Пессимистический сценарий более вероятен.

Ну а пока производители видеокарт в один голос ругают майнеров, сочувствуют геймерам и утирают слёзы "франклинами".

У республиканской администрации во главе с Дональдом Трампом есть претензии к TikTok: якобы это популярное приложение для смартфонов собирает персональные данные американцев. Допустим, Google и Microsoft через свои продукты тоже собирают персональные данные пользователей, но это американские компании, так что претензий (со стороны американского правительства) к ним нет. OK, это понятно.

Так что же предлагается в качестве решения проблемы? Обязать Google в магазине приложений Google Play понизить привилегии для приложения TikTok, чтобы сбор персональных данных китайской компанией стал невозможен? Нет. Обязать Google пересмотреть модель защиты пользовательских данных, изменить привилегии для всех приложений в магазине Google Play, чтобы сбор персональных данных кем попало стал невозможен? Тоже нет. С помощью угроз и шантажа, китайским товарищам предлагается свою компанию TikTok просто продать (или лучше подарить) другой американской компании (Microsoft), которая является признанным мировым лидером по сбору персональных данных (телеметрия Windows 10), только для того, чтобы сбор персональных данных американских и не только граждан продолжился "на всю катушку", без какого-либо "снижения оборотов".

Вдумайтесь: там, наверху, никто не пытается даже имитировать решение проблемы сбора персональных данных. Вопрос так даже и не ставится: "собирать или не собирать персональные данные", "пресекать подобный сбор персональных данных на уровне платформ или не пресекать". Разумеется собирать, и побольше! Вопрос лишь в том, кому это можно, а кому нельзя. Они там наверху просто делят добычу, рассматривая пользователей (не только американских) и их персональные данные как ресурс, как разновидность полезных ископаемых.

Выходит, что там, наверху, мнением самих пользователей насчёт необходимости сбора их персональных данных — не то, что не интересуются — даже и не притворяются, что интересуются. Сама такая постановка вопроса, что пользователи могут быть против сбора их персональных данных, рассматривается властью как экстремальная форма оскорбления. Поэтому предметом общественной дискуссии может быть лишь вопрос о том "кто собирает персональные данные", а вовсе не вопрос "собирать или не собирать персональные данные".

Демонстрация всей хвалёной мощи Amazon AI, Google AI и Microsoft AI вместе взятых, на примере поискового запроса "рубашка без полос":

https://github.com/elsamuko/Shirt-without-Stripes

Очевидно, что искусственные идиоты (AI, articifical intelligence), так нахваливаемые PR-отделами корпораций, так и не вышли за пределы примитивного статистического анализа ключевых слов, разумеется без какого-либо учёта очерёдности этих слов или связующих частиц между ними. Поисковый запрос просто переводится в некий вектор в декоррелированном пространстве признаков, или "фич"; а связующие частицы наподобие "не" или "без" и вовсе игнорируются как шумовые.

LOL, конечно: какие были понты у пиарщиков этих мегакорпораций — и как, в конечном итоге, все они красиво укакались.

https://aws.amazon.com/ru/machine-learning/
https://www.microsoft.com/en-us/ai
https://ai.google/

Подробную дискуссию об отличиях статистической вычислительной лингвистики (мейнстрим) от вычислительной лингвистики Хомского (которая сложная, поэтому ею никто фундаментально не занимается) можно почитать на Hacker News: https://news.ycombinator.com/item?id=22925087

n-gate.com — сайт с пародиями на новости из Hacker News, в меру злобный и предельно точный. Эти два сайта соотносятся примерно как ebanoe.it и dou.ua

С июня 2018 года в браузере Mozilla Firefox существует возможность включить шифрование DNS-запросов, т.е. резолвинг доменных имён по протоколу https (DNS-over-HTTPS, DoH). Для этого нужно задать network.trr.mode=2 в about:config.

Эту фичу уже включили вручную (opt-in) 70 тысяч юзеров, у них всё работает нормально, поэтому в ближайшее время Mozilla планирует включить эту фичу по умолчанию, сначала для пользователей из США, а затем для всего мира, не считая Британии.

DoH-резолвинг доменных имён по умолчанию идёт через CloudFlare, что вызвало критику и оправдания со стороны Mozilla.

Учитывая этот опыт, компания Google, которая тоже планирует внедрить DoH в своём браузере, решила реализовать поддержку нескольких DoH-провайдеров (нужный будет выбираться автоматически, в зависимости от IP-адреса классического DNS-резолвера, который сейчас задан в системных настройках или был получен через DHCP; таким образом, насколько это возможно, DNS-провайдер не изменится, только добавится шифрование). Впрочем, у всех этих компаний privacy policy не лучше, чем у CloudFlare.

Крупным интернет-провайдерам затея с DoH не нравится, т.к. они теряют возможность составлять списки посещаемых пользователями сайтов, и далее продавать эти данные маркетинговым агентствам и другим заинтересованным лицам. Так, например, американский провайдер Comcast недавно активизировал своих лоббистов в Конгрессе с целью противодействия усилиям компаний Mozilla и Google по внедрению в их браузеры функции DoH-клиента.

Владельцы роутеров с прошивкой на основе OpenWRT уже сейчас могут установить прокси-сервер DNS-to-DoH, который будет обрабатывать DNS-запросы на LAN-интерфейсе и делать DoH-запросы через WAN-интерфейс. Таким образом, можно уже сейчас добавить DoH для всех legacy-устройств в локальной сети, выполняющихся на них программ и операционных систем.

В популярный блокировщик рекламы PiHole тоже недавно была добавлена поддержка DoH на бэкэнде. Кстати, чтобы PiHole и ей подобные могли по-прежнему видеть DNS-запросы на фронтэнде, даже после перехода на DoH по умолчанию, в Firefox добавлен workaround: так называемый canary domain "use-application-dns.net", при возврате ответа NXDOMAIN на который происходит отключение браузерного DoH-клиента (хотя Mozilla обещает это убрать, если заметит злоупотребления со стороны интернет-провайдеров). Google Chrome не планирует делать поддержку этого или любого другого canary domain, т.к. PiHole и прочие блокировщики рекламы вредят основному бизнесу корпорации.

А ещё недавно поддержка DoH была добавлена в curl, популярную библиотеку и консольный HTTP-клиент.

Почему победил DoH, а не DoT? Потому что враждебно настроенным провайдерам тривиально просто фильтровать исходящий трафик на 853-й TCP-порт.

Но провайдеры могут так же тривиально просто фильтровать IP-адреса 1.1.1.1 и 1.0.0.1? Могут, но компании CloudFlare технически ничего не мешает включить DoH-резолвер на всех своих IP-адресах.

А как же DNSSEC? Подписи в DNS-ответах прекрасны, но их наличие никак не мешает провайдеру по-прежнему подглядывать за пользователями (вести логи DNS-запросов и DNS-ответов); а когда провайдеру понадобится что-то заспуфить, он может запросто начать блокировать DNSSEC и тем самым форсировать downgrade клиентов на обычный нешифрованный DNS. На принцип Net Neutrality многие провайдеры давно забили, а вот https они уже не смогут, просто так, взять и отключить (слишком поздно, на него приходится 90% трафика), поэтому инкапсуляция DNS-трафика в https — как раз то, что нужно.

Но доменные имена посещаемых сайтов провайдеры по-прежнему могут извлекать из поля SNI, которое передаётся открытым текстом в начале любой https-сессии? Могут, но DPI-оборудование для stateful-анализа https встречается реже и стоит дороже, чем оборудование для простого анализа UDP-трафика на 53-м порту, а стандарт eSNI, предусматривающий шифрование этого поля, уже на подходе. В Firefox'е уже сейчас можно включить экспериментальную поддержку eSNI. Поле eSNI на клиентской стороне шифруется ключами, получаемыми через DNS, поэтому фича eSNI зависит от фичи DoH (во избежание MitM-атак на эти ключи, их подмены путём перехвата DNS на стороне провайдера). В компании Google пока думают: они хотят передавать ключ для eSNI-шифрования не через TXT-запись для поддомена "_esni", а через ESNI-запись (запись нового типа) в апексе, т.е. для всего домена. Из-за разногласий вокруг этих технических деталей между Google и Mozilla/CloudFlare стандартизация eSNI в IETF пока притормозилась, а вместе с ней и реализация поддержки eSNI в SSL-библиотеках и HTTP-серверах. Скорее всего, владельцам доменов первое время нужно будет делать и TXT-запись в _esni-поддомене, и ESNI-запись в апексе.

Как может быть решена "проблема курицы и яйца" для поля eSNI в https-сессиях к DoH-резолверам? ESNI-ключи для DoH-резолверов станут ещё одной квази-константой интернета, так же как IP-адреса DoH-резолверов, IP-адреса корневых DNS-серверов или TLS Trusted Root.

После массового внедрения eSNI и DoH, провайдеры смогут по-прежнему осуществлять фильтрацию сайтов по IP-адресам? Смогут, но со стороны крупных облачных сервисов, таких как CloudFlare, AWS, GCP, Azure и Akamai может последовать ответ в виде domain fronting.

А что, если особо упоротые провайдеры начнут блокировать полные блоки IP-адресов облачных сервисов? Об этом ещё рано думать, но недавно в Нумерационном Совете NRO RIR обсуждалась идея отозвать ранее распределённые номера автономных систем (AS) у крупных российских провайдеров (по причине нарушения связности интернета). Пока эту идею отложили, но в случае таких вопиющих нарушений к ней могут вернуться. Для любого провайдера, отзыв AS-номера влечёт невозможность BGP-маршрутизации, т.е. фактически означает принудительное отключение провайдера и всех его пользователей от всего остального интернета.

Вообще, весь этот движ за privacy заметно активизировался после попытки Казахстана пошалить с TLS Trusted Root. Очевидная цель в краткосрочной перспективе — прикрыть слишком явные дыры в безопасности, которыми пока что активно пользуются различные бантустаны; а долгосрочная цель — поставить бантустаны перед выбором: или вы играете по нашим правилам, или убираетесь вон из нашего интернета к чёртовой бабушке и создаёте свои отдельные недо-интернеты с известными достоинствами, если у вас на это хватит денег и мозгов. Особенно весело будет наблюдать за этими потугами в условиях работающего Starlink.

UPD (2020-09-22): В России планируют запретить DNS over TLS на законодательном уровне.