Сегодня у сайта osm.org появился свой выделенный сервер для запросов к Overpass API. Он не публичный (и пожалуйста, не надо добавлять его себе в зеркала) и предназначен только для одного: поиска объектов вокруг заданной точки. Когда вы выбираете на сайте инструмент «Что здесь?» со стрелочкой и знаком вопроса и тыкаете в карту, сайт запрашивает список у Overpass API (потому что OSM API этого не умеет). Раньше это был сторонний сервер overpass-api.de, теперь — свой.

Эта новость порадует всех, кто пользуется инструментом «что здесь». Как узнать, что стало лучше? Тыкните в любое место три раза подряд. Из-за драконовских ограничений сервера раньше вы гарантированно получили бы ошибку: слишком много запросов. Теперь и на десятый клик сайт стабильно показывает объекты рядом и полигоны, содержащие заданное место. Видеть, как Overpass API работает без сбоев, умилительно: будто вернулся на пять лет назад.

Кажется, это была единственная часть сайта, которая работала нестабильно. После перехода с тайлового CDN (тридцать серверов которого так и стоят без дела) на Fastly ушли проблемы с медленными тайлами. Удивительно, но когда платишь людям за работу, эта работа оказывается сделанной хорошо. Построение маршрутов обеспечивают немецкий сервер OSRM (оплачен FOSSGIS) и немецкий же GraphHopper (витрина их бизнеса), оба стабильные. Чужие тайловые слои работают как часы, включая добавленные за пандемию французский велосипедный и немецкий общественного транспорта.

Но этот переход напоминает, что на самом деле стабильность стоит очень больших денег. Восьмиядерные серверы со ста гигабайтами памяти и терабайтом диска для Overpass API на дороге не валяются. Прокладка маршрута будет вам стоить от 50$ в месяц. Чуть меньше, если поднимете сервер на амазоне сами. Геокодирование платное. Тайлы платные. Кэширующий CDN тоже дорогой. А если хочется бесплатно и по-быстрому, то ограничения делают открытые сервисы бесполезными для публичных проектов.

OpenStreetMap — это открытые и бесплатные карты для каждого. Для каждого человека. Но когда нашими сервисами начинают пользоваться компании, оказывается, что стоимость этого пользования слишком велика. Раньше мы могли банить проблемных пользователей по-одиночке, но теперь их слишком много. Карты нужны всем. И либо ты строишь забор, который мешает и тем, кто растит в саду яблони, либо каждый день будешь видеть длинную очередь людей в костюмах и с пустыми мешками.

В начале мая Ньёлл Доусон показал, что свежий QGIS при выборе системы координат EPSG:4326 (или любой другой, основанной на датуме WGS-84, включая 3857) предупреждает: эта СК опасна для точности ваших данных.

*я иногда путаю датум (параметры эллипсоида, как WGS-84), системы координат (как на этот эллипсоид натянуты широта и долгота, как 4326) и проекции (отображение эллипсоида на плоскость, как 3857).

Неужели всё настолько плохо, что WGS-84 нужно отменить? Напомню, эта система координат используется почти везде: в GeoJSON, в приёмниках GPS, в данных OpenStreetMap. Мы рисуем в этой системе поребрики и балконы на домах, пользуясь пучками GPS-треков и RTK для достижения сантиметровой точности.

Проблема в том, как позже разъяснил Ньёлл и ранее — этот отчёт 2019 года, что местные (статические) СК привязаны к земле, а глобальные (динамические) — к общим параметрам земного шара. Австралия, например, медленно плывёт: с 1994 года она сместилась на 1,8 метра на северо-восток. Динамичность WGS-84 означает, что то, что единожны нарисовано в СК на её основе, каждый год нужно сдвигать.

В качестве местных в Австралии используются «слепки» WGS-84: система координат GDA94 была определена в 94 году как «эквивалентная WGS-84». А GDA2020 в прошлом году определили точно так же. Получается, можно преобразовать координаты без пересчитывания GDA94 → WGS-84 → GDA2020 и получить ответ, отличный от преобразования GDA94 → GDA2020.

Земная кора двигается и под остальными континентами, пусть и с меньшей скоростью. WGS-84 — динамическая СК: чтобы точно отражать физические координаты, к широте и долготе в ней нужно добавлять время наблюдений. Иначе, как пишет ИКАО в разделе 3.3.1 инструкции по WGS-84, даже учитывая теоретическую сантиметровую точность GPS-приёмников, точность данных в этой СК не превышает одного метра по горизонтали. То есть, пять знаков после запятой — предел точности для широты и долготы в WGS-84.

Чтобы увеличить точность хранения координат, рядом с ними нужно хранить «эпоху» — то есть, год наблюдений. Проблема в том, что ни один популярный формат хранения геоданных не поддерживает поле метки времени, особенно чтобы учитывать его в преобразованиях координат. После твита Ньёлла это начало меняться: с июня поле epoch добавили в GeoPackage.

GeoJSON и KML неисправимы, шейпфайлы и PostGIS тоже, соответствующее поле WKT CRS не поддерживает даже Proj 8. А вот в OpenStreetMap... формально, все объекты имеют дату создания, которую с натяжкой можно считать нужной меткой времени. Но кто в здравом уме использует OSM как формат для обмена геоданными? А при конвертации информация о времени теряется.

Обойти эту проблему легко: используйте местные, или хотя бы статические, системы координат. GDA2020 (EPSG:7844) для Австралии, ETRS89 (EPSG:4258) для Европы, ГСК-2011 (EPSG:7683) для России. Но скорее всего (ролик с ржущим фермером) у вас нет таких вариантов, и остаётся ждать, когда боги геоджейсона придумают решение. Глобальных СК лучше 4236 нет, поэтому последний QGIS 3.10 по умолчанию всё ещё предлагает эту систему для новых проектов.

Фрагмент групповой фотографии-коллажа участников State of the Map 2021

На этих выходных мы три дня смотрели заранее записанные ролики с выступлениями осмеров. Сверялись с программой передач, включали в нужное время первую или вторую кнопку, делали перерыв на рекламу (прошлых конференций и плакатов с исследованиями). Так нынче проходят конференции State of the Map: минимум общения, максимум нагрузки на стул.

Все эти дни я писал впечатления в телеграм и — впервые в истории SotM — синхронно переводил доклады. Двадцать одна запись звука ждёт публикации докладов, чтобы прилепиться к ним: вы сможете послушать выступления, не зная английского языка! Очень интересный опыт, пусть из-за него я реже делился впечатлениями. Главный секрет приемлемого перевода — посмотреть запись заранее.

Подытожил впечатления от конференции: «как будто за последние десять лет ничего не произошло». Всё так, но в мелочах было интересно. Много мыслей у ребят, и у всех глаза горят. Вот что спровоцировало на заметки в канале:

• Мартайн удивился, что приходится выбирать между unclassified и residential, и предложил (т. е. написал пропозал) объединить их в highway=street. Немного истории об unclassified и highway=road.
• Самый профессионально смонтированный ролик конференции — про сообщество OpenStreetMap в Филиппинах.
• «Дэйви тараторит с ощущением „аааа ничего не успеваю рассказать пойду вырежу все промежутки между словами“. Рекламирует свой SuperRoute.org, где можно скачать маршруты из OSM, экспортировать в mapsme или в josm, посмотреть историю и ещё и ещё и ещё»
• Автор OSM2World научил систему отображать схемы помещений и придумал схему тегирования, когда один объект висит на другом. Типа урны на фонарном столбе или почтового ящика на доме. Для этого он переопределил тег support=*, так что непонятно, как сообщество это примет.
• Сара Хоффман долго распутывала иерархию административных границ и под конец воскликнула прямо то, о чём думают все пользователи сырых данных OSM: ребята, остановитесь, хватит усложнять модели! Это не открытые данные, если их нельзя понять и использовать.
• Третий день начался с классного академического доклада про переводчик с английского на язык Overpass, но в целом впечатление от академиков так себе. «Как Петер заметил в ответах на вопросы, было бы офигенно видеть исследователей, работающих над задачами от сообщества OSM, а не берущих эти задачи с потолка».
• Приложение A/B Street выглядит как симсити на базе OSM: ездят машинки и велосипедисты, стоят на светофоре и поворачивают по полосам. Но одно дело — написать, другое — найти, кому эту систему продать. Беда с опенсорсом.
• А вот иметь редактор а-ля SimCity было бы круто (и ещё семь выводов со встречи авторов мобильных редакторов).
• Что имеем — не ценим: векторные тайлы сейчас просты, как никогда, но есть ощущение, что это не то, чем стоит заниматься. А Overpass API, обогнавший своё время лет на пять, — это такое же невероятное чудо, как интернет в самолёте. Но мы пользуемся и не удивляемся.
• Пора идти наполнять OpenHistoricalMap.

Видеозаписи опубликуют, скорее всего, уже к выходным. Пока их нет, воспользуйтесь каталогом русскоязычных ютуберов. Они иногда слишком любят JOSM, но рассказывают и другие интересные вещи.

У карты OpenStreetMap нет масштаба. Другими словами, одна и та же база геоданных используется для обзорки всей планеты и для схемы прохода между сараем и туалетом. Когда мы рисуем залив или люк на дороге, мы не задумываемся, на каких масштабах и как их будут отображать. Дело редакторов — внести максимум данных, до уровня, когда не приходит в голову мысль остановиться. Дай осмерам волю — они лес замапят как набор деревьев, с грибами и ягодами между ними.

Отсутствие рамок неудобно пользователям данных. Оно означает, что OpenStreetMap категорически нельзя использовать без предварительной обработки. Для любой цели — поиска, прокладки маршрутов, отображения, — данные нужно отфильтровать: например, убрать слишком мелкие здания и боковые пути железных дорог. Затем нужно упрощать геометрию: лес в парках и мелкие реки часто обклацаны с сантиметровой точностью. Чтобы сделать карту, на которую не больно смотреть, без подсказок опытного осмера не обойтись.

Карта Яндекса не такая. В неё нельзя всматриваться бесконечно: рано или поздно пустоты затмевают детали. У этой карты есть расчётный масштаб: примерно 250 метров в сантиметре (если вы помните детализацию карт Генштаба). Для всех целей Яндексу этого достаточно. Именно поэтому народные картографы должны были страдать. Правилами и модераторами им били по рукам, когда они рисовали слишком мелкие детали.

© Юрий Дегтярев, mosday.ru

Вся история изменений правил — это история понижения масштаба. 2016: у домов появились подъезды. 2017: разрешили рисовать гаражи-ракушки и дороги в два ребра. 2018: можно рисовать трёхмерные модели зданий, указать плохое состояние дороги и доступность проезда для велосипедистов. 2019: разрешили соединять графы пешеходных дорог, рисовать парковочные карманы и схемы помещений. 2020: площадки отдыха вдоль дорог и сезонные заведения и дороги.

Нынешний год пускает всю диктатуру масштаба яндекс-карт под откос. Народные картографы одновременно ликуют и не понимают, где им остановиться. Сначала в марте на подъездах разрешили расставлять номера квартир. Казалось бы, осмеры делали это первыми. Но, во-первых, у редактора яндекса форма ввода удобнее, и сразу предлагает заполнить квартиры по этажам. А во-вторых, всего за две недели их редакторы ввели в России столько же подъездов с квартирами, сколько в OSM — за всё время.

Теперь пришли сразу две поправки, разрешающие рисовать скамейки и «декоративные» заборы. Это невиданная степень свободы для народных картографов. В полутора сотнях комментариев они пробуют стены детализации на прочность: «отбойники можно?», «а заборы между участками в частном секторе?», «скамейки со спинкой или без?», «а скамейки в торговых центрах?», «урны скоро будем?», «а каждая скамейка считается за отдельную правку?» Сотрудники яндекса едва успевают отвечать отказами — но волна новых микромапперов рискует смыть их критерии полезности и порядок на картах.

Возможность нарисовать что угодно отличает OpenStreetMap от всех остальных карт. Мы слышали про истории успеха с пожарными гидрантами, отдельностоящими деревьями и знаками на магистралях. Этой карте нет альтернатив по скорости обновления и глубине детализации. Она была первой в этом роде, и поэтому все, кому важны данные, а не просто посмотреть, взяли OSM в оборот.

Но когда твой проект обгоняет все другие геоинформационные системы на двадцать лет, это не значит, что все другие отомрут. Как мы видим на примере яндекс-карт, это лишь означает, что через двадцать лет тебя догонят и обгонят. Преимущества открытого проекта тают с каждым годом. Остаётся только эта самая открытость — но и она приносит больше проблем, чем пользы. Что нужно сделать для OpenStreetMap, чтобы на вопрос, где регистрироваться, не отвечать «ну эээ...»?

Рабочая группа администраторов втихую работает:

• Возобновили публикацию логов просмотра тайлов. Это текстовые файлы, где написано, какие тайлы сколько раз за день смотрели. Обновления сломались в декабре, когда закрыли проект Tile CDN, переведя кэш тайлов на провайдера Fastly. Да, того самого, что обвалился месяц назад. Под настойчивыми напоминаниями Дорофея, чей проект Disaster Ninja обрабатывает эти логи, Пол Норман переписал скрипт обработки, и первый новый файл сегодня появился на сайте.
• Наконец-то сайт поддерживает авторизацию через OAuth2! Это тот же протокол, что используют Github, Strava, Twitter, Google и Вконтакте. Очень долго в приложения приходилось впиливать библиотеки для устаревшего OAuth 1.0a только для входа через OSM. Теперь всё проще, спасибо Тому Хьюзу и Mmd, разработчику CgiMap.
• К двум дата-центрам в Лондоне и одному в Амстердаме потихоньку собирают четвёртый — в Дублине. Который всё ещё в Евросоюзе, в отличие от. Новому дата-центру закупают всё, что есть в других: серверы для базы API, планеты, рендерера, номинатима и даже новый сервер для разработки. Прошлому уже десять лет, на нём становится тесновато.

Совет OSMF тоже работает, и в этом месяце умудрился попасть на первую страницу The Guardian. Поводом стало письмо Гильёма Ришара в рассылку osmf-talk, в котором он поделился желанием Совета перенести регистрацию компании OpenStreetMap Foundation из Кембриджа в Великобритании куда-нибудь в Евросоюз.

Среди причин — новые (и старые) сложности с банковскими операциями и Paypal, больше авторитета в Евросоюзе, простота найма людей из ЕС (как Доротея), и шанс зарегистрироваться некоммерческой организацией и экономить на налогах. Кроме того, с 1 июля право на базы данных (как копирайт, но на базы) разделилось между ЕС и Великобританией, и они не признают права друг друга. Лицензия ODbL работает лучше, когда есть основа в виде прав на БД, и лучше иметь их на крупнейшем рынке.

Участники обсуждения накидали предложений: Эстонию, потому что э-государство, Данию, потому что там неплохо работала Мозилла, Германию, потому что там KDE и TDF (делают LibreOffice), Женеву, с отдельно стоящим зданием или без, и Ирландию, где прячутся от налогов Microsoft, Google и Amazon. Не все страны подходят под необычные требования OSMF, но они обсуждаемы. Тема на многие месяцы — вступайте в OSMF и присоединяйтесь к заполнению таблички по странам.

Напомню, что с прошлого августа можно стать членом Фонда OpenStreetMap совершенно бесплатно. Для этого нужно просто чаще править карту: 42 дней в год достаточно. Уточните своё количество на How Did You Contribute и заполните форму на сайте вступления в OSMF. Нам нужно больше русских участников: у нашей страны худшее соотношение количества картографов и количества членов OSMF.