Эта книжка заставила меня пойти на кассу книжного уже в четвёртый раз (купил ещё sharp objects by
G.Flynn, Skunkworks by Ben Rich, и ещё что-то про спорт и календарик)



Эта книжка заставила меня пойти на кассу книжного уже в четвёртый раз (купил ещё sharp objects by
G.Flynn, Skunkworks by Ben Rich, и ещё что-то про спорт и календарик)



Оказалось, что у трилобитов линзы фасеточных глаз были сделаны из минерала. Каждая линза представляла собой монокристалл кальцита — того самого, из которого состоят известняк, мел и мрамор. Проблема в том, что кальцит сильно двупреломляет свет: луч, прошедший сквозь кристалл, раздваивается. Трилобиты обошли это тем, что кристалл в каждой линзе ориентирован оптической осью строго вдоль оси зрения, а в этом направлении двупреломления нет.
Вторая проблема — сферическая аберрация. У простой выпуклой линзы лучи, идущие через край, сходятся не там, где центральные, и изображение размывается. Живой глаз может хоть как-то компенсировать это формой и неоднородностью хрусталика, а жёсткий кристалл — нет.
У одной группы трилобитов — факопид (ордовик–девон) — линзы были крупные и раздельные, и каждая состояла из двух слоёв кальцита с разным содержанием магния — верхней выпуклой части и «внутрилинзовой чаши» снизу (см. картинку). Граница между слоями повторяет профили апланатических линз, которые Декарт и Гюйгенс описали ещё в 17 веке. Такая форма гасит сферическую аберрацию — лучи, идущие через край линзы, сходятся в той же точке, что и центральные. Есть даже гипотеза, что эти линзы были бифокальными — центр и периферия фокусировали на разные расстояния, так что неподвижный кристалл мог одновременно работать и на близь, и на даль.
Прикольно, что эволюция пришла к этому решению примерно за 400 миллионов лет до Декарта и Гюйгенса, а эти двое так и не дожили до времени, когда разобрались в офтальмологии трилобитов.




Хочу поделиться нашей свежей работой — алгоритм BloomSpan по поиску наиболее длинных частых последовательностей слов в массиве текстов. Я его назвал BloomSpan.
О чём это, если по-человечески. Представьте, что у вас есть библиотека из 50000 книг, и нужно найти все длинные фразы, которые повторяются во многих разных книгах слово в слово, без пропусков. Не «похожие» фразы, а именно одинаковые цепочки слов, причём максимально длинные — такие, что если добавить ещё одно слово слева или справа, фраза уже перестаёт встречаться достаточно часто. Задача звучит просто, но на миллиардах слов она упирается в память и время. Классические алгоритмы либо строят огромные индексы, либо перебирают слишком много кандидатов.
Где это нужно? Например, вытаскивать шаблоны из документов (например, одинаковые «шапки» в письмах или договорах), искать заимствования и плагиат, выделять устойчивые фразы и клише в больших текстовых массивах.
Так вот, что получилось. Алгоритм. Честно говоря, BloomSpan — это не прям алгоритм с нуля, а аккуратная сборка из известных идей, которые вместе дают сильный эффект. В базе — разные идеи от BIDE+, FHK, и поверх всего этого: (а) Фильтр Блума — компактная структура, которая отвечает на вопрос «встречалось ли это сочетание слов достаточно часто?», не храня сами сочетания. Она может иногда ошибиться в сторону «да», но никогда — в сторону «нет», поэтому мы гарантированно не теряем ни одной нужной фразы (б) Поиск «в глубину» прямо по тексту — находим короткое частое ядро и постепенно наращиваем его в длинную фразу, не создавая промежуточных копий корпуса. (в) Карта занятости — отмечаем в тексте позиции, уже «покрытые» найденными фразами, чтобы не проверять одно и то же по многу раз.
Что получилось. На корпусе из 50 тысяч книг Project Gutenberg (около 3 миллиардов слов) BloomSpan работает в 11-15 раз быстрее классического алгоритма FHK и съедает до двух раз меньше памяти. Это единственный из протестированных методов, который вообще дошёл до конца на полном корпусе в пределах 40 ГБ. При этом результат полностью совпадает с точными алгоритмами там, где они успевают отработать — то есть ускорение не за счёт качества.
На искусственных же данных с «неестественным» распределением слов старый добрый FHK быстрее. Bloomspan заточен именно под живой естественный язык, и в статье разбирается, почему так.
Препринт и код (Java) — в комментариях

Придумал простую иллюстрацию того, где нынешний AI пока не тянет.
Есть чёрный ящик, из него торчат две ручки. Двигаешь первую — вторая тоже двигается, но по каким-то своим правилам, типа с задержкой, с инерцией, с порогом, как угодно. То есть, по сути, ящик преобразует f(t) в f'(t). Вопрос один: что внутри? Надо не только придумать эффективный механизм, но и уместить его в габариты ящика.
Формально это почти программирование. Потому что можно формально описать вход-выход и придумать «алфавит» для механических штук внутри. Но здесь в отличие от программирования много нелинейного — механизмы объёмные, надо принимать во внимание кучу вещей от материалов до трения, и главное не так просто испытать прототип до его создания. Но главное даже не это — а понимание задачи. Единственный способ узнать, что внутри ящика — это выдвинуть гипотезу и придумать движение ручки, при котором эта гипотеза и соседняя дадут разный результат. Хороший эксперимент здесь важнее хорошего ответа. А модели учили на корпусе готовых решений, где ошибки уже вычищены, и там ничто не тренирует умение выбирать следующий вопрос.
К чему это. Мне кажется, сложное для AI (мы говорим про LLM; так-то область шире)— не компоновка из известного, с этим он справляется всё лучше. То есть, задачу с ящиком при наличии «алфавита» для ее описания и законов механики AI может решить, но через комбинации известного, а не через принципиально новый компонент. Сложное — придумывание нового. Хотя, если быть честным, большинство человеческих изобретений при разборе тоже оказываются компоновкой, просто из далеко разнесённых кусков. Но придумывали же часовой спуск (анкер) , где все детали — колесо и качающаяся вилка, да и вообще сама мысль, что колебательная система должна не приводиться пружиной, а сама дозировать, когда пружине разрешено отдать порцию энергии, переворачивает причинность в устройстве, и до неё шли столетия. И челночный стежок швейной машины. Бессмысленно копировать руку с иголкой, нужно вместо этого протаскивать вторую нить сквозь петлю первой с изнанки, причём иголка должна иметь ушко у острия. Всё это не сборка из компонентов, а смена того, что вообще считается задачей, и именно поэтому такие вещи так плохо выводятся перебором комбинаций, будь то у человека или у модели.
У изобретателя есть обратная связь от реальности и цена ошибки, поэтому он учится проверять раньше, чем верить. У модели внутри одного ответа платить за неверную догадку нечем. Да и вообще, замени механику на физику частиц, и надо опять все переделывать, потому что там вообще все иначе.
Занятно, что это лечится не размером модели, а устройством задачи. Дай ящику отвечать на движения — и задача из текстовой становится экспериментальной. Посмотрим, кто первым научится так играть.
84 исследователя, 40+ лабораторий — кто есть кто в Search & RecSys, на одной странице.
Google, Meta, Netflix, Spotify, Amazon, CMU, UMass, UCSD и другие — для каждого человека ссылки на сайт, Google Scholar, LinkedIn, ключевые статьи. Плюс h-index и число цитирований из Semantic Scholar.
Сделал для себя, потому что так удобнее быстро смотреть кто что публикует. Готового ничего не нашёл — пришлось собрать самому. Вроде получилось полезно, надеюсь, не только мне.
СЯУ что в юникоде есть настолько сложные «символы» как на картинке. Это один символ. Когда в юникодную таблицу поместились все алфавиты мира, стрелочки и кружочки, и еще осталось туча свободного места, которое надо было чем-то заполнить, раз есть. Там места на около 1.1 млн символов, и шрифтовики работают как могут) китайский и корейский занимают 71% существующих символов.
А еще в юникоде есть прикольные лигатуры. например, вот следующий текст — это один «символ» ﷽ (Басмала). Она тут в фб выводится не совсем так, как надо из-за шрифтов, полный вариант смотреть тут:
там же живут ﷺ и ﷻ
А ещё в юникоде есть иероглифы, которых не существует. Расследование 1997 года выяснило, например, происхождение 妛: составители хотели записать «山 над 女», но напечатать составной знак не могли — поэтому напечатали 山 и 女 по отдельности, вырезали ножницами, склеили на листе и сделали копию. На копии линия стыка двух бумажек выглядела как черта и вошла в иероглиф. Теперь так навсегда осталась

Ко мне только что в комнату залетела огромная, сантиметра три с половиной в размахе, черная громко жужжащая муха, я ее поймал одеялом, и запихнул в вазу, подробно обсмотрел и обгуглил. Это оказался черный слепень (Tabanus atratus), самка. Самки — вампиры. Им нужна свежая кровь. Ради яиц. И кусают они очень больно. У слепня во рту, по сути, ножницы. Пара зубчатых лезвий-мандибул, которыми он вспиливает кожу, вскрывая капилляры, а потом слизывает кровь из образовавшейся лужицы. Пишут, что кусают очень больно, так как тебя буквально режут этими ножницами. В кровь при этом впрыскивается антикоагулянт, чтобы она не свернулась, и потому ранка сочится долго после того, как слепень улетел. Они запросто прокусывают ткань, так что рубашка не спасает.
Так вот, СЯУ что слепни — возможно, самые быстрые летающие насекомые на планете. Самцу рода Hybomitra (они у нас тоже живут) приписывают скорость под 145 км/ч, и это, по некоторым оценкам, вообще рекорд горизонтального полёта среди насекомых (правда, цифра получена косвенно: энтомолог заставил самца погнаться за пулькой из воздушки, тот перехватил её в воздухе, и значит летел быстрее пульки). А еще слепня влечёт поляризованный свет. Так они ищут воду — гладкая поверхность отражает свет горизонтально поляризованным, и это для слепня маяк «здесь можно отложить яйца». Интересно, что именно поэтому белые лошади получают куда меньше укусов, потому что почти не поляризуют отражённый свет. За эти опыты Габор Хорват с коллегами получили Шнобелевскую премию 2016 года. Они, помимо прочего, обмазывали клеем полноразмерные макеты лошадей и раскрашивали манекены, чтобы всё честно проверить.
Мою пленницу я, кстати, выпустил.



Напоминаю, что у меня есть группа Инженерный дзен в фейсбуке и телеге. За последнее время там вышло про:
— То, как полвека наука снисходительно объясняла бабушкам, что простуду вызывает вирус, а не сквозняк, — а в 2022-м нашла механизм, по которому бабушки были правы. Отчасти.
— Людей, которые прямо сейчас ходят по Земле с плутонием в грудной клетке. Легально, на учёте у ядерного регулятора, с инструкцией «после смерти вернуть государству». Испытывали капсулу всерьёз: кремация, авиакатастрофа, выстрел из дробовика. Убила технологию совсем не радиация.
— Старых моряков, которые в шторм выливали за борт масло. Не суеверие, а работающая физика — и из неё же вылезло, кажется, первое в истории измерение размера молекулы. Чайная ложка масла, пруд под Лондоном и Бенджамин Франклин. А сегодня тот же эффект ловит разливы нефти со спутников.
— Почему почти вся синева в животном мире — обман: пигмента там нет вообще. Ни в крыльях морфо, ни в перьях павлина, ни в ваших голубых глазах. У млекопитающих синего пигмента нет ни одного. А у растений — всё наоборот.
— Как картируют дно океана… глядя на его поверхность из космоса. Подводные горы выдают себя «горбами» на воде — море, оказывается, совсем не плоское. Эхолотом до сих пор промерено лишь около четверти дна.
— Магнит МРТ, который включают всего один раз в жизни — а дальше он крутит ток по кольцу годами, вообще без розетки. Даже ночью, когда клиника закрыта. Но если охлаждение откажет — случится «квенч», и тонны гелия за секунды вылетят через трубу на крышу.
— Теорему, по которой шар можно разрезать на куски и собрать из них два точно таких же шара. Не фокус и не софизм — честная математика. Подвох в том, что у этих «кусков» нет объёма. Вообще. Как у берега Британии нет длины.
— Почему в языке с тремя словами для цветов третье — всегда красный, а синий появляется последним. Знать язык не нужно — достаточно посчитать. И почему в Японии разрешающий сигнал светофора по закону — «синий».
— Спасательную операцию, которая идёт в космосе прямо сейчас: робот пытается схватить падающий телескоп, у которого нет ни ручек, ни стыковочного узла — его строили в эпоху, когда о таком никто не думал. Наперегонки с атмосферой.
— Лунную пыль — главный кошмар лунных баз. Микроскопические острые осколки стекла, которые съедают скафандры за часы, липнут ко всему из-за статики и — внезапно — пахнут порохом.
— Гипотезу, которая держалась 85 лет и пала во время финала ЧМ по футболу — от одной строчки в твиттере. Контрпример проверяется студентом за минуту, и непонятно, как его не нашли раньше.
— Иллюзию «остановившихся часов», которую ловил каждый: переводишь взгляд на секундную стрелку — а она замерла. Оказывается, мозг несколько раз в секунду ослепляет вас — и потом монтирует время задним числом.
— Лёд, который не тает при +300°C, — его нашли запертым внутри алмазов из земной мантии. А из его ещё более странного чёрного раскалённого родственника, похоже, сложены недра Урана и Нептуна.
— Почему рекламу на бортиках стадиона, которую вы видите по телевизору, физически не существует — зрители в Бразилии, Германии и Японии в один и тот же момент видят трёх разных спонсоров.
— Кусок проволочной сетки, который укрощает огонь там, где тот обязан взорваться, — и на котором сто лет стоял весь шахтёрский труд. Изобретатель принципиально отдал его миру даром.
— И на закуску — почему гигантскую ракету NASA везут не по асфальту, а по речной гальке. Асфальт пробовали — он пошёл «волнами, как море». Проверено лично, час рассматривал эту гальку в окно.
Присоединяйтесь, чтобы не пропустить ещё много интересного.
Инженерный дзен
P.S. Есть и группа в телеге с тем же именем, но там перестала расти аудитория вообще и стоит на уровне 100 человек, и я пока не придумаю, как этим управлять, временно на нее забиваю.

СЯУ, что полвека наука снисходительно объясняла бабушкам, что простуду вызывает вирус, а не сквозняк, а в 2022 нашла механизм, по которому правы были всё-таки они (отчасти).
Предыстория: Солсбери, 1946-1990, Common Cold Unit, через него прошло 20000 чел — их заражали простудными вирусами и морозили (холодные ванны, сквозняки, мокрые купальники). Заболевали они не чаще. Далее — работа Дугласа в 1968. Было 44 чел, всем дали риновирус, одна группа сидела при 4°C. Разницы не нашли, статья так и называлась — «Failure to demonstrate effect». Вывод разошёлся по популярным книжкам — холод к простуде отношения не имеет, точка.
Новое: в декабре 2022 опубликовали механизм. Если коротко. У слизистой носа есть передовая линия (о которой узнали только в 2018). Почуяв патоген, клетки выбрасывают в слизь носа внеклеточные везикулы — авторы описывают это как «пнуть осиное гнездо». На них торчат те же рецепторы, за которые цепляется вирус, гуще, чем на самих клетках, — он налипает на пустышку и до клетки не доезжает. Дальше эксперимент — 15 мин при 4,4°C — и температура внутри носа падает на 5°C. На ткани, охлаждённой ровно так же, везикул выбрасывается почти на 42% меньше, противовирусных микроРНК в каждой вдвое меньше, а рецепторов до 70% меньше.
Вывод: «от холода простужаются» — неверно, а «на холоде легче заразиться, если есть от кого» — очень даже. Самое интересное, что из этого хотят сделать. Раз рой можно позвать, авторы обсуждают спрей, который командует слизистой «пни осиное гнездо» заранее.
