Технические решения оптимизации для серверов. SO Оптимизация серверной инфраструктуры. Оптимизация базы данных

Зачем нужна оптимизация сервера

5 (100%) 2 vote[s]

Современный мир бизнеса давно уже покорил и просторы Интернета. Но создание сайта, приносящего прибыль, — это еще не все, что необходимо для ведения успешного бизнеса. Если у вас такой сайт уже имеется, то стоит задуматься об оптимизации работы сервера.

Зачем нужна оптимизация работы серверов?

Дело в том, что с ростом количества клиентов вашего сайта, однозначно требуется их комфортное и быстрое обслуживание (ведь только так можно успешно развивать свой бизнес). Вот в таких ситуациях и начинают возникать следующие проблемы:

  • страницы сайта загружаются медленно,
  • доступ к нему может отсутствовать полностью.

Именно такие неполадки и будут свидетельствовать о том, что сервер находится в перегруженном состоянии и не может выполнять своих прямых функций.

Конечно же, в этом случае возникает риск потерять даже своих постоянных клиентов. Даже наиболее терпеливые из них могут перейти на конкурирующий сайт, устав ждать доступа к вашему.

Специалисты рекомендуют: как можно раньше обратите внимание на производительность сервера и займитесь его оптимизацией. Такой шаг позволит всем клиентам чувствовать себя комфортно на вашем сайте, что, соответственно, отразиться на развитии вашего бизнеса.

Что собой представляет оптимизация сервера?

Как видим, оптимальное функционирование любого веб-сайта напрямую связано с . Если клиент заходит на страницу сайта, то запрос об этом посылается на сервер, где происходит его обработка и формирование ответа. Скорость такой ответной процедуры зависит от сервера, а именно от характеристик его производительности. При минимальной скорости работы, сервер нуждается в ускорении – увеличении скорости отклика.

Многие пользователи для ускорения работы серверов идут на такой шаг, как замена оборудования с более мощными характеристиками. Но такой выход не всегда себя оправдывает и не позволяет решить возникшие проблемы.

Наши специалисты предлагают идти другим путем:

  1. определить саму проблему (что же мешает серверу функционировать быстро?),
  2. произвести тонкую настройку apache;
  3. установить и настроить под определенную конфигурацию сервера кэширующий веб-сервер nginx;
  4. настроить сервера баз данных mysql:
  • размеры буферов,
  • кэширование запросов,
  • работу с таблицами,
  1. установить и настроить кэширующий модуль для php (XCache, EAccelerator, и др);
  2. оптимизировать необходимые настройки операционной системы.

Данный подход поможет ускорить быстродействие сервера.

Для увеличения производительности сервера можно использовать несколько способов, но самым лучшим является оптимизация.

Оптимизация операционной системы (FreeBSD)

  • Переход на 7.х является полезным для многоядерных систем, так как можно использовать новый ULE 3.0 Scheduler и jemalloc. Если вы применяете систему legacy 6.x и она не справляется с нагрузками, то самое время произвести переход на 7.х.
  • Переход на 7.2 позволит увеличить KVA, оптимизировать по-дефолту sysctl и применять superpages. Уже готовится новый FreeBSD 8.0, который поможет значительно увеличить производительность.
  • Переход на amd64 даёт возможность увеличить объёмы KVA и Shared Mem больше 2Gb. Необходимо создать условия для развития сервера, ведь базы данных постоянно увеличиваются и требуют больших размеров.
  • Разгрузка сетевой подсистемы во FreeBSD поможет оптимизировать сервер. Этот процесс можно произвести в два этапа: тюнинг параметров ifconfig и настроек sysctl.conf/loader.conf. На этапе подготовки следует проверить возможности сетевой карты. Драйверы от Яндекса помогут увеличить скорость благодаря задействованию нескольких потоков, они часто применяются для многоядерных процессов. Для третьесортной сетевой карты лучшим решением станет polling’e. Последняя обновлённая версия тюнинга FreeBSD 7 поможет решить поставленную задачу.
  • FreeBSD и огромное количество файлов замечательно работают благодаря кешированию имён файлов в директории. Поиск по хеш-таблице поможет быстро найти необходимый файл. Хотя максимальное количество памяти около 2Мб, можно её увеличивать пока vfs.ufs.dirhash_mem это позволяет.
  • Softupdates , gjournal и mount options – это новые терабайтные винты, которые обладают прекрасной производительностью. При отключении электропитания их fsck займёт очень много времени, поэтому можно использовать softupdates или производить журналирование через gjournal.

Оптимизация фронтэнда (nginx)

Этот вид можно отнести в преждевременной оптимизации, хотя он поможет увеличить общий response time сайта. Среди стандартных оптимизаций стоит обратить внимание на reset_timedout_connection; sendfile; tcp_nopush и tcp_nodelay.

  • Accept Filters – это технология, которая даёт возможность передавать информацию от ядра к процессу в случае прихода новых данных или получения валидного http запроса. Эти фильтры помогут произвести разгрузку сервера при огромном количестве соединений.
  • Кеширование в nginx характеризуется гибкостью, и производится от fastcgi или от proxy backend’ов. Каждый сможет по-умному использовать кеширование в своём проекте.
  • AIO является очень полезным при некоторых специфичных нагрузках на сервер, ведь он сохраняет response time, в то время как уменьшается число воркеров. Новые версии nginx дают возможность использовать тандем aio с sendfile.

Оптимизация бэкэнда

  • APC – это фреймворк, который позволяет уменьшить нагрузку благодаря кешированию скомпилированного кода в ОП. APC locking стоит обновить, так как он может тормозить и вместо APC многие начинают применять eAccelerator. Стоит произвести замену locking на spinlock или pthread mutex. Значение APC hints стоит поднимать при огромном количестве.php файлов или при частом кешировании в APC user cache. APC fragmentation является признаком того, что вы применяете APC не по назначению. Он не может самостоятельно заниматься удалением записей по TTL или LRU.
  • PHP 5.3 поможет увеличить прирост производительности, поэтому стоит обновить версию PHP, хотя список deprecated функций может напугать многих.

Оптимизация базы данных

Идей по улучшению работы MySQL есть очень много в интернете, ведь каждый веб-проект рано или поздно сталкивается с ограничениями объёма памяти, диска или процессора. Поэтому простые решения не помогут справиться с проблемой, стоит уделить больше времени профайлерам (dtrace, systemtap и oprofile), а также задействовать большое количество дополнительного программного обеспечения. Необходимо не только в совершенстве уметь использовать индексы, производить их сортировку и группировку, но также знать, как это всё функционирует внутри MySQL. Также необходимо знать преимущества и недостатки разных storage engine, понимать Query cache и EXPLAIN.

Существует несколько способов оптимизации MySQL, причём даже без изменений кодов, ведь половину тюнинга сервера можно осуществлять в полуавтоматическом режиме с помощью утилит tuningprimer, mysqltuner и mysqlsla.

  • Переход на 5.1 даёт много преимуществ, среди которых стоит выделить оптимизацию оптимизатора, Partitioning, InnoDB plugin и Row based replication. Для ускорения работы сайта некоторые экстремалы уже тестируют версию 5.4.
  • Переход на InnoDB даёт много преимуществ. Он совместим с ACID, поэтому любая операция производится с помощью всего одной транзакции. Он имеет row-level locking, который даёт возможность одновременно читать и записывать много потоков изолированно друг от друга.
  • Встроенный кеш MySQL – Query Cache является достаточно сложной для понимания, поэтому многие пользователи его используют нерационально или отключают. Для него больше не означает лучше, поэтому не стоит доводить эту подсистему до максимума. Query Cache является распараллеленной, в результате при использовании больше восьми процессов она будет только тормозить весь процесс, а не способствовать уменьшению времени загрузки сайта. Содержимое этой подсистемы, которое относится к определённой таблице, аннулируется при изменениях в этой таблице. Это означает, что Query Cache даёт положительный результат только при использовании грамотно составленных таблиц.
  • Индексы могут быть вредными как для SELECT (при их отсутствии), так и для INSERT/UPDATE (при наличии лишних). Индекс, которым уже не используется, всё равно занимает память и тем самым замедляет изменения данных. Чтобы справиться с этой проблемой, стоит воспользоваться простым SQL запросом.

PostgreSQL

Система Postgres является достаточно разносторонней, ведь она относится к классу Enterprise и на ней прекрасно работает Skype, но в то же время её можно установить даже на мобильный телефон. Среди доступных 200 параметров, 45 из них являются основными и отвечают за тюнинг.

В интернете можно найти много полезной информации по тюнингу Postgres. Но некоторые статьи уже устарели, поэтому следует отталкиваться от даты публикации и обращать внимание на ту информацию, где используется ключ vacuum_mem, или в новых версиях maintenance_mem. Продвинутые программисты смогут найти много качественных трактатов, далее мы перечислим только те основы, которые помогут обычному пользователю улучшить свой проект.

  • Индексы PostgreSQL всегда на первом месте, в том время как у MySQL они занимают всегда последние позиции и это можно объяснить тем, что у PostgreSQL индексы обладают огромными возможностями. Программист должен прекрасно ориентировать в таких индексах, и знать когда и какой следует использовать, как GiST, GIN, hash и B-tree, а также partial, multicolumn и on expressions.
  • pgBouncer и его альтернативы необходимо в первую очередь устанавливать на сервер с базой данных. Без наличия пулера соединений, каждый запрос создаёт отдельный процесс, который используется оперативную память. Вроде ничего страшного, но при создании более 200 соединений даже очень мощный сервер с трудом справляется с обработкой информации. pgBouncer помогает справиться с этой проблемой.
  • pgFouine является незаменимой программой, так как её можно смело назвать аналогом mysqlsla на php. В тандеме с Playr она может осуществлять оптимизацию запросов в сложных условиях на staging серверах.

Разгрузка базы данных

Для оптимизации работы базы данных и увеличения её производительности следует как можно меньше её использовать.

  • SphinxQL можно использовать в качестве MySQL сервера. Для этого только нужно создать sphinx.conf, а также записи для indexer в cron и произвести переключение на другую базу. При этих действия даже нет необходимости изменять код. Переход на SphinxQL поможет повысить скорость и качества поиска, а также забыть о MyISAM и FTS.
  • Не-RDBMS хранилище позволяет не применять реляционную БД. Можно остановить свой выбор на Hive или Oracle. База данных key-value благодаря своей скорости применяет выборки из реляционных баз для дальнейшего кеширования. Владельцы крупных проектов на PHP, могут использовать отличную возможность opcode cache для хранения всех custom данных. С его помощью можно надёжно сохранить даже перемены глобального значения, ведь они занимают мало места и практически не занимают память, а также скорость выборки значительно повыситься. Если для большого проекта блок глобальных перемен записать только на одну машину, то трафик вырастает, и она начинает сильно тормозить. Для решения этой проблемы необходимо хранить глобальные переменные в opcode cacher’e или произвести клонирование переменных по всем серверам и в алгоритме consistency hashing прописать исключения.
  • Кодировки относятся к действенным методам разгрузки базы данных. Стоит отметить, UTF-8 – это прекрасный выбор, но на русском языке она занимает очень много места, поэтому для одноязычного контингента сначала следует подумать о рациональном использовании кодировки.
  • Асинхронность поможет уменьшить время реакции приложения или сайта, а также существенно понизить нагрузку на сам сервер. Batch запросы производятся намного быстрее, чем привычные одиночные. Для огромных проектов можно использовать сообщения RabbitMQ, ApacheMQ или ZeroMQ, а для малых можно задействовать всего лишь cron.

Дополнительные приложения для проведения оптимизации

  • SSHGuard или его альтернатива является стандартной практикой для ssh. Анти-брутфорсы помогают создать надёжную защиту сервера от нападок ботов.
  • Xtrabackup от Percona – это прекрасный инструмент для бэкапа MySQL, который обладает большим количеством настроек. Но идеальным решением всё же стоит назвать клоны в ZFS, ведь они создаются очень быстро, а чтобы произвести восстановление БД, достаточно изменить пути к файлам в конфигурации мускула. Клоны позволяют произвести восстановление системы с нуля.
  • Перенос почты на другой хост позволит спасти трафик и IOPs, если ваш сервер просто засыпают спамами.
  • Интеграция со сторонним программным обеспечением поможет произвести оптимизацию mysql сервера. Например, для обмена сообщениями можно использовать связку smtp/imap, которая не займёт много памяти. Для создания чата достаточно использовать основу jabber сервера с javascript клиентом. Эти системы, которые созданы на основе адаптеров к готовым продуктам, отличаются прекрасной возможностью масштабирования.
  • Мониторинг – это очень важная составная часть, ведь невозможно осуществлять оптимизацию чего-либо без детального анализа. Необходимо следить за метриками производительности, свободными ресурсами и задержками, в этом поможет Zabbix, Cacti, Nagios и другие инструменты. Web Performance Test позволяет вычислить скорость загрузки сайта или проекта, поэтому очень помогает при мониторинге. При настройке performance сервера, помните, что только тщательный анализ поможет устранить все возникшие проблемы и произвести оптимизацию.

Не поняли половины из написанного — не беда.

Оптимизация инфраструктуры баз данных и виртуальных сред

Повысьте производительность инфраструктуры баз данных в текущем состоянии и получите рекомендации по дальнейшей оптимизации с помощью облачных сервисов.

Проект Server Optimization актуален в случаях:

  • отсутствия централизованной системы хранения и восстановления данных;
  • проблем с производительностью SQL-серверов;
  • проблем в работе приложений;
  • отсутствия системы обеспечения отказоустойчивости дата-центра;
  • оценки готовности и целесообразности миграции ИТ-инфраструктуры в облака;
  • отсутствия общего понимания состояния инфраструктуры баз данных и виртуальной среды.
    Управляйте серверной средой эффективнее:
    Технический аудит инфраструктуры баз данных SQL
    Обнаружение проблем настройки серверов «Тонкая» настройка SQL-сервера – непростая задача даже для администратора баз данных с достаточным опытом работы. Мы проведем исчерпывающий анализ настроек системного уровня, таких как настройки памяти по умолчанию, партиционирование, параллельные сессии, кэширование, диски, настройки резервного копирования и др.

    Оптимизация памяти и дискового хранилища Основным фактором, влияющим на производительность любой современной базы данных, является подсистема ввода/вывода. Мы проанализируем характер нагрузки на базу данных и предоставим рекомендации по оптимизации хранилища и оперативной памяти с точки зрения как скорости работы, так и надежности хранения информации.

    Оптимизация производительности баз данных У каждого разработчика баз данных существуют свои рекомендации по оптимизации производительности сервера или кластера. Специалисты нашей компании выполняли различные варианты настройки базы данных под разные типы нагрузки и могут предложить оптимальные настройки производительности. Эти рекомендации всегда подкреплены ссылками на документацию и передовой опыт вендоров по развертыванию ПО.

    Анализ логов ошибок и обнаружение критических проблем Логи ошибок – основной источник информации о работе базы и проблемах в приложениях, использующих эту базу. Нашими специалистами разработан собственный инструментарий для анализа проблем и поиска методов их устранения. Как правило, любой проект обязательно содержит анализ логов серверов БД, на основе чего даются рекомендации по оптимизации. 

    Оптимизация баз данных (триггеры, индексы, трейс-сообщения) Все современные базы данных собирают информацию о собственной производительности в виде набора срезов данных, которые позволяют определить, насколько эффективно работает база с дисковой подсистемой, кэшем запросов, достаточностью индексов в таблицах и т.д. Мы проанализируем эту информацию и предоставим рекомендации о внесении изменений в настройки.

    Создание отказоустойчивой архитектуры Разработка архитектуры базы с режимом работы 24x7 с временем простоя не более 2 часов в год предполагает увеличение количества серверов, детальную проработку программной части и исключение единой точки отказа. Мы поможем решить подобную задачу, а кроме того, вы получите политику резервного копирования и восстановления как исполняемого кода БД, так и всех данных.

    Подготовка высокодоступной базы данных с минимальным временем отклика Наши специалисты помогут оптимизировать работу баз данных для получения максимальной скорости работы вашего сервера. Производится анализ задержек, эффективности работы кэша, индексов, «тяжелых запросов», работы оптимизатора запросов, а также даются рекомендации по повышению эффективности работы.

    Оптимизация баз данных для работы с конкретными приложениями Мы проводим оптимизацию и настройку базы данных MS SQL и Oracle для работы бизнес-приложений, таких как системы управления документооборотом, системы управленческого учета, портальные решения и др. При выполнении работ мы руководствуемся рекомендациями поставщиков программного обеспечения по настройке ПО, а также собственным опытом оптимизации БД под различные виды пользовательской нагрузки.

    Выбор аппаратной платформы для развертывания ПО баз данных Поставщики современных баз данных имеют перечни оборудования, оптимального для работы базы данных. Мы сможем проанализировать ваши предпочтения поставщиков, найти серверы, на которых можно развернуть ПО баз данных, или подготовить спецификацию на закупку оборудования под базу данных.

    Анализ и оптимизация виртуальной среды эксплуатации баз данных Проблемы производительности любого программного обеспечения в виртуализированной среде, как правило, связаны с особенностями каждого конкретного гипервизора и оборудования, на котором работают виртуальные серверы. Наши специалисты помогут определить причины замедлений в работе и оптимизировать размещение ПО баз данных на виртуальных серверах в вашем дата-центре.

    Получите точный расчёт проекта у наших или узнайте, как провести обследование без затрат с вашей стороны при поддержке вендора.

  • Необходимость оптимизации серверной операционной системы

    Проведение оптимизации позволяет, во-первых, оптимально настроить ПК и тем самым добиться максимальной производительности компьютера, наиболее полной реализации его функциональных возможностей. Во-вторых, оптимизация необходима для обслуживания ПК, как и любого устройства. Игнорирование периодического, а в некоторых случаях и регулярного проведения оптимизации (сканирование, очистка, дефрагментация жесткого диска...) приведет в лучшем случае к уменьшению скорости работы компьютера, в худшем - даже к потере данных.

    4. Обновление Операционной Системы Unix

    1. В нижней правой стороне панели видим значок Менеджера обновлений. Нажимаем на него мышкой

    Рисунок 20

    2. Как и любая, уважающая себя и своих пользователей, современная система, Linux Mint 14 запросит ввести административный пароль для внесения изменений в систему. Введите его и нажмите на ОК:


    Рисунок 21

    3. Последует проверка репозиториев на наличие новых версий программ и пакетов для Linux Mint 14:


    Рисунок 22

    Этот процесс закончится открытием Менеджера обновлений со списком обновленных пакетов:


    Рисунок 23

    Все обновляемые пакеты подразделяются по уровням, поэтому, думаю, напомнить будет о этих уровнях не лишне


    Рисунок 24

    4. После того, как мы выбрали все, что хотели обновить (или оставили все пункты отмеченными), нажимаем на кнопку "Установить обновления":


    Рисунок 25

    5. Менеджер обновлений Linux Mint 14 уведомит и покажет информацию о тех обновлениях, что будут установлены

    Рисунок 26

    После того, как вы согласитесь, начнется процесс получения и обновления Linux Mint 14 до актуального состояния


    Рисунок 27

    После окончания обновления в нижней части Менеджера вы увидите вот такое сообщение

    Рисунок 28

    Означает, что ваша система не требует обновления и все программы в ней актуальны.

    Организация рабочего места

    Для улучшения рабочего места необходимо предпринять следующие меры:

    1. Разместить монитор так, чтобы его верхняя точка находилась прямо перед вашими глазами или выше, что позволит держать голову прямо, и исключить развитие шейного остеохондроза. Расстояние от монитора до глаз должно быть не меньше 45 см;

    2. Стул должен иметь спинку и подлокотники, а так же такую высоту, при которой ноги могут прочно стоять на полу. Идеальным будет приобретение кресла с регулируемой высотой, в таком случае спинка позволит держать спину прямо, подлокотники дадут возможность отдохнуть рукам, правильное положение ног не будет мешать кровообращению в них;

    3. Расположение часто используемых вещей не должно приводить к долгому нахождению в какой-либо искривленной позе;

    4. Освещение рабочего места не должно вызывать блики на экране монитора. Нельзя ставить монитор рядом с окном, так чтобы вы одновременно видели и экран и то, что находится за окном;

    5. .При работе с клавиатурой, угол сгиба руки в локте должен быть прямым (90 градусов);

    6. При работе с мышкой кисть должна быть прямой, и лежать на столе как можно дальше от края.

    Во время работы не забывайте о регулярных перерывах для отдыха. В санитарных правилах и нормах даны многочисленные комплексы упражнений для глаз, для улучшения мозгового кровообращения, для снятия утомления с плечевого пояса и рук, с туловища и ног.

    Профилактика заболеваний органов дыхания включает в себя влажную уборку и проветривание помещения. Работа за компьютером, следите за освещением, осанкой, делайте перерывы - все это поможет повысить трудоспособность и избавит вас от серьёзных болезней. В целях правильной организации рабочего места необходимо обеспечить оптимальные условия для зрительного восприятия в рабочей зоне. Наиболее важные элементы следует располагать в оптимальной зоне видимости.

    В производственных помещениях оптимальные условия труда определяются в основном температурой в сочетании с влажностью и движением воздуха. Оптимальными условиями являются температура 20-220 С, относительная влажность воздуха 30-60%, скорость его движения не выше 0,2 м/с. Для рабочей зоны эти параметры определяются с учетом времени года, категории работ, количества выделяемого в помещении тепла. Главными причинами развития утомляемости и снижения работоспособности человека являются шум и вибрация. Они раздражают органы слуха, вызывают утомляемость человека и могут привести к функциональным изменениям в центральной нервной системе, системе кровообращения и т.д. Различные физические и химические факторы действуют одновременно, при этом их взаимное влияние на человека может усиливаться или ослаблятся.