High Load WebProjects' Journal

11:45AM - ГЛИСТЫ МУТАНТЫ В КЕФИРЕ ЭТО ЖЕСТЬ!!!!

Оригинал взят у akapulo в ГЛИСТЫ МУТАНТЫ В КЕФИРЕ ЭТО ЖЕСТЬ!!!!

2:25PM - Мутные схемы детского питания в школах Врачи бьют тревогу: найти полностью здорового ребенка сейч

Мутные схемы детского питания в школах


Врачи бьют тревогу: найти полностью здорового ребенка сейчас практически невозможно. Родители обеспокоены ухудшением питания в школе, где их дети проводят большую часть времени. Контролирующие инстанции вынуждены с ними согласиться. Недавно проведенная городским Роспортребнадзором выборочная проверка петербургских школ выявила 57 грубейших нарушений в организации питания детей – от несоответствия ГОСТАм до реализации откровенно просроченных продуктов. Тем временем власти рапортуют о ежегодном увеличении бюджетных расходов на социальное питание. Но как у нас зачастую бывает, больше – не значит лучше. По крайней мере, не для детей.

Причина этих проблем в Петербурге кроется в запутанной, мутной системе организации детского питания в школах. И очень странном руководителе системы - Натальи Петровой.
В Петербурге детское питание организовано на базе собственных нормативных актов, разработанных при участии Управления социального питания в 2008-2009 годах. И эти самые акты зачем-то противоречат Федеральному закону о госзакупках, который предполагает выбирать поставщика услуг по соотношению цена/качество
В Петербурге же финансирование расходов на организацию питания для всех детей зачем-то идет по линии социальной поддержки малообеспеченных семей. Иными словами, у поставщика не закупается услуга по поставке продуктов и готовке обедов, а ему компенсируются затраты на предоставление питания льготникам. В качестве же дополнительного бонуса за выполнение важной социальной миссии бизнесмены получают право кормить других детей уже на коммерческой основе, причем помещения школьных столовых предоставляются им даром. Такая необычная юридическая схема позволила чиновникам, обойти требования федерального закона и провести отбор фирм по своему усмотрению, дополнив конкурсную документацию различными специфическими требованиями, соответствовать которым могли только определенные фирмы. В условиях конкурса, установленных Управлением социального питания, было немало необычного. Например, до него допускались только те фирмы, которые готовы были проводить переоснащение пищеблоков. Требование на первый взгляд немаловажное, если только не брать в расчет то, что на тот момент в городе уже заканчивалась реализация комплексной программы модернизации оборудования школьных столовых. Комитет по образованию тогда ценой титанических усилий за 4 года оснастил новым оборудованием 695 школ, на что из бюджета было потрачено 450 млн.рублей. В результате столь «предвзятого» отсева в 2009 году победителями конкурсов стали всего несколько компаний, получивших монопольное право в течение 3-х лет кормить детей во всех школах, да еще и на новеньком оборудовании, не вкладываясь в его замену. А приятным дополнением к возможности зарабатывать на торговле обедами стало около 3 млрд.рублей, выделенных на питание льготников.
Срок заключенных контрактов теперь истекает, но новые конкурсные процедуры снова будут проходить по тем же странным правилам, активно поддерживаемым руководителем системы Натальей Петровой. Если, конечно, новое городское руководство не решит, что здоровье детей важнее, чем благополучие отдельных предприимчивых работников и узкого круга коммерсантов.

(mrsotvertka)

4:54PM - Приглашаем на Форум Технологий Mail.ru Group

24 апреля 2012 года состоится одно из самых заметных IT-событий 2012 года – Форум технологий Mail.Ru Group. В рамках конференции опытом поделятся западные эксперты и ведущие специалисты из числа сотрудников компании.

Приглашаем на мероприятие системных и сетевых администраторов, специалистов по безопасности, руководителей IT-департаментов, технических директоров, а также профессионалов в иных областях информационных технологий, которым интересно расширить кругозор и воспользоваться опытом коллег.

На мероприятии будут обсуждаться вопросы системного администрирования, распределенного мониторинга, виртуализации, криптографии, оценки уязвимости систем. Докладчики рассмотрят технологии и эффективные инструменты, прошедшие проверку масштабными проектами. Форум технологий пройдет уже в третий раз; теперь мероприятие планируется проводить дважды в год, весной и осенью.

Среди докладчиков Kris Buytaert, один из основоположников DevOps. Buytaert расскажет о семи полезных opensource-инструментах, которые должны быть в арсенале системного администратора, а во втором докладе поделится опытом построения решений с использованием БД-кластера MySQL-HA и Linux-HA Pacemaker и поведает о плюсах и минусах различных схем масштабирования баз данных.

Свои доклады и лекции также представят Garrett Honeycutt, эксперт PuppetLabs, консультант в области веб-разработки Joshua Thijssen и Jan-Piet Mens – автор масштабного труда, посвященного альтернативным DNS-серверам.

Полный список докладчиков доступен на сайте мероприятия.

Участие в Форуме бесплатно; зарегистрироваться можно, перейдя по ссылке

2:13PM - Ищем толкового и адекватного админа на сложный HighLoad проект

Российская IT-компания "Онлайн решения" (Online Solutions) (сейчас CEZURITY), специализирующаяся на информационной безопасности, приглашает в свою команду толкового системного администратора, который способен обеспечить отказоустойчивую и быструю работу облака нашего антивирусного продукта.

Город: Санкт-Петербург.

Занятость: полная; работа в офисе (ст. м. пл. Мужества).

Помощь при переезде в Санкт-Петербург и аренде жилья.

Вакансия: Системный администратор

Задачи:

• Участия в разработке и администрировании сложного HighLoad проекта;
• Тонкая настройка и администрирование операционных систем (в основном, Linux, иногда Windows);
• Настройка и администрирование серверов для распределенного хранения и обработки информации;
• Настройка и администрирование проектов компании (распределенная обработка пользовательских запросов (cloud service), распределенный анализ исполняемых файлов с целью выявления вредоносного кода);
• Поддержка внутренних пользователей (разработчиков, аналитиков).

Требования:

• Умение работать самостоятельно, быстро и эффективно;
• Отличное знание Linux (желательно Debian, CentOS);
• Хорошие знание Windows (да, у нас есть часть сервисов на этой платформе);
• Толерантное отношение к различным платформам (Windows, Linux);
• Знание и практический опыт использования технологий виртуализации (KVM, Xen);
• Опыт работы на HighLoad проектах;
• Опыт установки и тонкой настройки операционной системы, Postgresql, php, nginx, apache, memcache, итд;
• Умение разбираться и работать с экзотическими системами и продуктами. Например, Erlang, RabbitMQ, Node.js, Hadoop;
• Высшее образование. Если незаконченное - то не менее двух курсов. Математическое образование было бы плюсом.

Условия:

• Официальное трудоустройство;
• Уникальная команда и возможность работать с интересными людьми;
• Работа в офисе;
• Удаленная работа невозможна;
• Испытательный срок 3 месяца;
• Заработная плата от 80 000 до 130 000 рублей (по результатам собеседования);
• Обсуждение заработной платы, премий и бонусов возможно по результатом собеседования.

(therosco)

8:17PM - Стабильность redis как кэша

Посоветуйте, стоит ли использовать redis как замену memcache?
Стабилен ли redis?

Желание заменить шило мылом возникло по причине желания сбрасывать кэши по тегам и неумения мемкеша делать это без костылей.

12:24PM - mysql load-balancing, multi-master replication

Всем привет.
Хотел бы обсудить схему, насколько она вообще пригодна для продакшена?
Два mysql сервера настраиваются для репликации друг на друга. Перед ними ставится haproxy, который на уровне tcp балансирует на них запросы.
Проверка доступности осуществляется через отдельный сервис висящий на каждом db сервере, и проверяющий Seconds_Behind_Master, если не 0 то haproxy выключает дб сервер из балансировки.

Какие подводные камни могут быть при такое схеме?

У кого-то есть удачный опыт использования mysql-proxy, sqlrelay ? Может быть еще есть что-то для load-balancing'а под mysql?

(phpuncle)

11:53AM - Профессионалы-«айтишники»! Ждем вас на ВЕБОРУБЕ Минск 17 декабря 2011!

ВЕБОРУБ – это дружеская встреча в неформальной обстановке веб-разработчиков, экспертов QA, менеджеров проектов, аналитиков и архитекторов, а также других уважаемых профессионалов IT-индустрии. Мы сознательно не называем эту встречу конференцией. Скорее, это антиконференция, без строго протокола, излишнего пафоса и максимально доброжелательной, почти домашней атмосферой.

Основная идея ВЕБОРУБА – предоставить специалистам возможность обсудить важные для них вопросы в непринужденной обстановке. Эта неформальная площадка для поиска решений самых актуальных и злободневных проблем, кулуарного обмена опытом между профессионалами. ВЕБОРУБ поможет всем желающим получить ответы на любые волнующие их темы, причем без лишних условностей.


Формат ВЕБОРУБА выглядит следующим образом:
• отсекаем все лишнее и второстепенное, оставляем только самое важное и значимое;
• никаких спонсоров;
• не тратим время на пересказ всем известных фактов, которые можно найти в открытом доступе. Делимся сугубо практическим личным опытом, своими идеями и соображениями;
• не делаем длинных и утомительных докладов. Программа состоит из коротких выступлений (до 10 минут, максимум 5 слайдов) и неформального общения.
Таким образом, ВЕБОРУБ – это профессиональное общение в свободной обстановке, вдохновение идеями и опытом своих коллег.

Все подробности предстоящего мероприятия – на Weborub Hero 2011

(nightlysunlight)

9:40AM - Конференция пользователей Sphinx, скоро в Питере!

Учитывая количество народа пришедшего на прошлогоднюю сфинксоводческую конференцию в Москве, командование Sphinx'а приняло решение о проведении второй, теперь уже ежегодной, встречи пользователей Sphinx search. В этот раз вся команда Сфинкса соберется в Питере, чтобы в воскресенье четвертого декабря встретиться с теми, кто придет по адресу Московский проспект д. 143 к 11-ти утра в конференц-зал Ленгипротранса.

Зачем приходить?

Прежде всего для того, чтобы послушать как Андрей Аксенов (основатель, главный разработчик и идеолог поисковой системы Sphinx) будет рассказывать про свое детище так, как он один это умеет. Уже одно его выступление мне кажется достаточным поводом для того, чтобы доехать до метро "Электросила" в воскресный день, а оно там будет не одно. Парни из avito.ru будут рассказывать о том, как жить с высокими нагрузками, наши товарищи из Ivinco поделятся про свой опыт использования Sphinx в их работе.
( Read more... )
Кроме этого мы расскажем, что нового мы сделали за последний год и что у нас в планах. Полный список докладов мы опубликуем на страничке конференции.

Оставляя в стороне сами доклады, участие во встрече даст участником редкую возможность вживую поговорить с командой Сфинкса: разработчиками, инженерами поддержки, консультантами и получить ответы на свои вопросы из первых рук.

Всем кто пользуется или только планирует попробовать Сфинкс, я бы крайне рекомендовал посетить это событие. Вполне возможно, что после Питера в Россию эта конференция вернется нескоро.

Ах да, участие во встрече бесплатное, нужно только зарегистрироваться.

Распространение информации о конференции (вконтакте, facebook) всячески приветствуется!

Ждем вас в Питере!

(oni_ddr)

11:48PM - Проблемы с memcached?

Здравствуйте.

Есть проект, для работы используется связка nginx + php-fpm + memcached + MySQL на другом сервере.

Недавно проводили работы по оптимизации, после чего возникла проблема, которая проявляется только при нагрузке (то есть при тестировании её не выловили).

Изменения: Есть большая таблица с данными о пользователях.
После оптимизации появилась возможность получать из мемкеша данные из этой таблице по следующим ключам
- логин пользователя (возможны русские символы, пробелы)
- сессия пользователя (шестнадцатеричная строка)

Проблема: через пару минут после обновления файлов начинает отваливаться по таймауту бэкэнд
upstream timed out (110: Connection timed out) while connecting to upstream
Судя по slow log php-fpm, затык происходит на функциях, где используется memcached.

Накидайте, пожалуйста идей, в чём может быть проблема с советами.

P.S. Пока писал пост, пришла в голову мысль о пробелах в именах. С утра проверим.

UPD. Всем спасибо за комментарии и помощь. Проблема была решена. Основной причиной были пробелы в ключах.

3:05PM - storage для web cluster'а

Добрый день.
Есть web сайт, 1 fontend - nginx, 3 backend - apache(mod-php). linux. На fontend сервере находятся все файлы сайта (статика и скрипты), на backend сервера storage подключается по NFS. На NFS сервер идет до 8000 getattr запросов в сек. На диски storage идет в среднем 50 iops. На nginx приходит до 1500 запросов в сек. 500G данных.
Хочется решить две задачи: обеспечить отказоустойчивость storage, и избавиться от большого числа запросов по сети от backend серверов(вроде как идет актуализация кэша, данные почти все в кэш памяти), есть признаки, что это тормозит работу apache.
Теории начитался, а примеров использования на таких задачах не знаю.
Посоветуйте пожалуйста решения под такие нагрузки. Что может быть лучше NFS?

(oleg_bunin)

3:53AM - Последние анонсы и реклама ;)

Как и в прошлом году конференция HighLoad++ обещает стать крупнейшим профессиональным мероприятием осени для веб-разработчиков. Несколько сотен участников, два полных дня докладов, фуршет от IHC.RU для неформального общения и многое другое.

Доклады от ВКонтакте, Skype, Badoo, Комсомольской правды, Одноклассников, Amazon, Mail.ru, Parallels, Alawar, HighLoad Lab, Мамбы, Google, Facebook, Microsoft, Yahoo, OmniTI, SkySQL, Percona и многих других компаний, которые сталкиваются с высокими нагрузками ежедневно!

В этом году у нас почти нет докладов об общей архитектуре высоконагруженных систем - трехзвенная структура, репликация и шардинг, масштабирование - все это стоит изучить в рамках домашнего задания по подготовке к конференции. Через неделю мы будем говорить о деталях - хитрые (но не коварные ;) способы кэширования, системное администрирование, решардинг, NoSQL (как за, так и против!), неблокирующиеся сервера, потоковое видеовещание, решения для пиковых нагрузок в СМИ, рассылка миллионов писем в день, использование AJAX, секреты сборки мусора и низкоуровневая оптимизация

Именно поэтому мы и называем нашу конференцию профессиональной - это реальная возможность получить уникальные знания и пообщаться с гуру.

Кроме непосредственного участия в конференции у Вас есть еще две возможности: онлайн-трансляция и мастер-класс по MySQL для разработчиков (подробности на сайте).

(c_rv_n)

9:23PM - Ищем верстальщика / флешера (на постоянную работу, Москва)

Всем добрый день
Ищется верстальщик / флешер.

Верстка div-ами и таблицами
Photoshop / Illustrator
Кроссбраузерная верстка
Flash
Наличие портфолио

Знание javascript-фреймворков, умение верстать под Microsoft MVC и умение программировать на javascript будет плюсом.

Гарантируем интересные проекты (в том числе высоконагруженные), хороший коллектив, лояльное руководство, удобный график работы и офис в центре Москвы рядом с метро.

Пишите: corvin@oceanlab.ru

(rogovsky)

10:40PM - Типичные ошибки в хайлоаде

Мода важнее здравого смысла

Процитирую диалог с одним из клиентов:

- Сколько стоит поставить nginx?
- Зависит от задачи, а в чем она состоит?
- У меня сайт медленно работает, и я слышал, что nginx позволяет его ускорить!
- Я вижу по анализатору, что на сайте более 200 изображений, а нагрузка на сервер при этом 2-3%. Проблема не в сервере, а в том, что слишком много изображений, на погрузку которых браузер тратит свои ресурсы.
- А разве nginx не ускорит их отдачу?
- Ускорит, но проблема не в скорости их загрузки, а в большом числе.
- Что же делать?

Гадание вместо статистики

Процитирую диалог с одним из клиентов:

- Мне надо настроить MySQL!
- А что с ним такое?
- У меня клиенты на хостинге жалуются, что их сайты тормозят!
- Но я вижу, что mysql потребляет 2-5% RAM и 15-20% CPU. И нагрузки никакой нет, все запросы успешно попадают в кеш.
- Тогда надо поставить xcache для php, выдав ему больше памяти, потому что скорость открытия сайтов ну очень низкая!
- Я могу поставить, только не гарантирую, что это поможет.
- А что же делать?

Отсутствие кеширования

- У меня большая нагрузка на MySQL. Посоветовали memcache! Я поставил - не помогло!
- В смысле - поставил?
- Ну сделал apt-get install memcached php5-memcache и рестартовал апач.
- И все?
- Да! А разве еще что-то надо?

Попытка масштабировать без понимания сути проблемы

- У нас есть сайт, с помощью которого пользователи могут размещать рекламу на страницах своих сайтов. Все бы ничего, но похоже, что надо разделять базу на множество серверов, так как она довольно часто тормозит и реклама не отображается.
- А вы пробовали найти причину тормозов и воспроизвести их?
- Нет, а разве это надо? По этому и надо масштабирование, чтоб не заморачиваться.

(itmozg)

5:09PM - Объявляем миссию по спасению ЖЖ

Как приличный job-портал, мы (itmozg) не можем остаться в стороне в то время, когда жежешечку ломают и ддосят. Или ддосят и ломают... Или просто ломают. В общем, мы решили спасти ЖЖ.
Практика показывает, что кричать в комментариях "смените кривых сотрудников и наймите прямых" - неэффективно. Но можно избавить ЖЖ от кривых, чем мы и намерены заняться с вашей помощью.
Отправьте рекомендации и резюме специалистов по хайлоад-проектам, архитектуре, выпрямлению рук и в общем всему, чего, на ваш взгляд, не хватает жежешечке. Мы рассортируем информацию в кучки "матерные отзывы", "рецепты", "резюме", "рекомендации" и отправим в HR и PR-департаменты СУПа соответственно. Все ценное с благодарностью принимается нами в ящике profit@itmozg.ru.
P.S. Нам за это не платят. Нам просто жалко ЖЖ. В то время, когда проект бороздят ддосами, в СУПе открыта только вакансия HTML-верстальщика. Мы считаем, что одного верстальщика мало и для исправления ситуации нужно хотя бы три :)
Перепосты и отзывы очень приветствуются. Комментарии читаются.

(ext_716217)

11:22AM - Вопрос по балансировке нагрузки.

Добрый день.  Возник вопрос о способе балансировке вот такой системы. База данных пользователей поделена на таблицы по 1000 id пользователей (все сопутствующие таблицы соответственное тоже).  На двух серверах условно будет по 1000 таблиц.

1 вариант . Скрипт определяет по диапазону id  нужный сервер и обращается к нужной базе. Таким образом поставив некий балансер нагрузки первый запрос допустим идет на сервер 1, а нужные таблицы находятся на 2 сервере - запрос грузит два сервера (!). Вопрос частично решается использованием на разных серверах информации определенного файла - или профили, или сообщения и проч. Или балансер ставить на базу данных? 

2 вариант. Клиент обращается основному серверу - тот также по диапазону присылает ответ - адрес сервера, где находятся нужные данные. Клиент обращается к нужному серверу.  Такая "автобалансировка" получается. 
Объяснил размыто, думаю суть ясна -  балансировка при шардинге таблиц. Поделитесь, пожалуйста, своим опытом и дайте совет. Спасибо.

(oleg_bunin)

12:50AM - HighLoad++, call for papers!

Коллеги, всем привет!

Хочу лично пригласить вас к выступлению на HighLoad++ ;)
Уже пора, осталось чуть меньше трех месяцев - конференция пройдет 3, 4 и 5 октября.

Рубрикатор все там же - на сайте конференции:
http://www.highload.ru/

Есть идеи? Поражающие дух исследования? Новые разработки? Прикольные фишки, про которые никто никогда не слышал? Переписанные операционные системы? Новые шаблонизаторы? Ну и все такое ;)

Готов выслать Call for papers и все такое - присылайте запросы на oleg.bunin@ontico.ru

(bludwarf)

2:16PM - Ищем системного C++/Linux программиста на разовый проект (100 тыс. руб.)

NatSys Lab. специализируется на разработке сложных высокопроизводительных систем для телекоммуникационных компаний и хостинг провайдеров.


В данный момент ищем разработчика на разовый high-load проект в области обработки сетевого трафика, но возможно и дальнейшее сотрудничество.

Обязательные требования:
+ Опыт разработки высоконагруженных серверов (pthreads, epoll, socket API);
+ Хороший C++, желательно знание Boost (asio, threads);
+ Владение oprofile, valgrind, gdb, scons
+ Хороший coding style (linux/Documentation/CodingStyle, FreeBSD KNF etc);

Желательно:
+ Знание атомарных операций, lock-free структур данных;
+ Опыт работы с Cisco RDRv1;
+ Английский язык.

Работа удаленная, ежедневные статус-митинги по Skype.

Продолжительность проекта - 4-6 недель. Оплата - 100 тыс. руб.


+7 (916) 717-3899
e-mail: ak домен natsys-lab.com
Skype: akrizh

Александр.

3:08PM - Разыскивается сисадмин, офис, Спб.

(eapotapov)

1:01AM - dns-сервисы с низким TTL

Привет!

Посоветуйте пожалуйста DNS-сервисы в духе xname.org в которых можно было бы выставить низкий TTL, хотя бы 900 а желательно 60.

Самим давно не приходилось использовать, а тут вот потребовалось и непонятно, что использовать.
Давно когда то смотрели DynDNS но это совершенно не тот масштаб, что нужен для клиента.
При этом желательно, чтобы биллинг не был по количеству запросов.

Спасибо.

(_myst)

8:48AM - Need help

Нужен совет как правильно сделать такую казалось бы простую штуку как счетчик.

Задача классическая: считаем заходы на страницах сайтов и представляем владельцам базовую информацию (сколько, браузеры, страны и тп)

Как я понимаю, технически задача состоит из 2х частей:

1. Сам счетчик (условно это картинка, которая грузится с моего хоста) - логирование запросов в буфер.

2. База (не хотелось бы отрываться от mysql как части уже готового сервиса) - где все храним.

раз в минуту запускается скрипт, который берет буфер, собирает из этого пару десятков запросов и добавляет в базу.


И тут возникает целая куча вопросов.

Куда буфер ?
в файл - глупо, локи, скоростть и тд
мемкеш\apc и прочие sared memory - как ? в 1 ИД - опять же надо как-то релизовывать локи да и падает сильно скорость если большие объемы данные дописывать ? в отдельный ид каждый хит ?


основная база : проводить денормализацию ? условно таблица 1 с разбивкой по часам за сегодня
таблица 2 с разбивкой по дням и переливание из 1 в 2 в конце дня ?
даже простой подсчет показывает, что размер базы будет расти ударными темпами.

Ткните где почитать плз.
Заранее спасибо.