Charge CPU et Apache

Bonjour,

Je gère la maintenance d'un site e-commerce depuis quelques mois, que j'ai commencé d'optimiser (cache, optimisation des requêtes sql...).

Toutefois, depuis aujourd'hui, début des soldes oblige, Apache fait monter la charge CPU à 100% et on obtient un load avg de plus de 50 (il est monté jusque 80).

Bref, j'ai repéré il y a quelques semaines une problématique sur une page qui comporte trop de produit. Avec les multiples images, le js on a trop de hits sur cette page. Pour soulager le serveur, j'ai pu installer une partie des fichiers images (tout l'habillage promotionnel en fait) sur mon propre dédié. Mais cette page reste encore trop gourmande. Enfin, c'est ce que je pensais, mais même en limitant la page à 70 produits (au lieu de 300 je crois), le load avg augmente toujours.

Du coup je me demande d'où peut venir ce problème. Il y a pas mal d'ajax sur le site et je ne vois pas comment identifier le problème. Je ne pense pas que ce soit un script PHP, je l'aurai déjà remarqué je pense. J'ai vraiment l'impression que c'est le nombre de hits demandés par chaque client qui engorge Apache.

Voici la configuration du serveur :
Type : Intel(R) Core(TM)2 Quad CPU ...
Vitesse : 2400.063 MHz
Cache : 4096 KB

Tourne sous Debian Etch

Concernant ma page problématique voici les infos avant mes modifs à 70 :
499 Requests 2.9 MB 24.17s (onload: 24.45s)


Voici ma commande top.

top - 18:45:02 up 167 days, 6:47, 1 user, load average: 38.34, 37.87, 31.28

Tasks: 152 total, 38 running, 114 sleeping, 0 stopped, 0 zombie

Cpu(s): 95.1%us, 4.3%sy, 0.0%ni, 0.0%id, 0.0%wa, 0.2%hi, 0.4%si, 0.0%st

Mem: 4134168k total, 2248580k used, 1885588k free, 204808k buffers

Swap: 522104k total, 28k used, 522076k free, 1408184k cached



PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND

27308 mysql 15 0 145m 54m 5456 S 29 1.3 62:25.93 mysqld

24420 www-data 16 0 28536 12m 5588 R 23 0.3 0:24.35 apache2

25071 www-data 15 0 25508 8328 4064 S 22 0.2 0:00.70 apache2

24237 www-data 16 0 28428 11m 4248 S 22 0.3 0:22.72 apache2

25073 www-data 16 0 28360 10m 4168 R 21 0.3 0:00.67 apache2

24509 www-data 15 0 28684 11m 4228 S 20 0.3 0:15.64 apache2

23517 www-data 16 0 29688 12m 4244 R 19 0.3 0:49.60 apache2

24529 www-data 16 0 28660 11m 4244 R 17 0.3 0:16.46 apache2

24220 www-data 16 0 28944 11m 4248 R 16 0.3 0:30.40 apache2

24231 www-data 15 0 25928 8980 4296 R 14 0.2 0:29.09 apache2

24236 www-data 15 0 26672 10m 5532 S 13 0.3 0:25.00 apache2

24472 www-data 16 0 28624 11m 4244 R 13 0.3 0:15.25 apache2

23133 www-data 15 0 31860 14m 4256 S 13 0.4 1:07.32 apache2

23790 www-data 16 0 28460 11m 4256 R 12 0.3 0:43.67 apache2

25072 www-data 16 0 29880 12m 4068 R 12 0.3 0:00.37 apache2

24773 www-data 16 0 29920 12m 4224 R 12 0.3 0:12.23 apache2

24230 www-data 16 0 28520 11m 4224 R 11 0.3 0:17.78 apache2

23527 www-data 15 0 26904 10m 4596 S 11 0.2 0:54.32 apache2

24221 www-data 15 0 28432 11m 4216 S 11 0.3 0:22.05 apache2

24486 www-data 16 0 28528 11m 4244 R 10 0.3 0:11.35 apache2

24119 www-data 16 0 28456 11m 4620 R 10 0.3 0:29.41 apache2

24052 www-data 16 0 29536 12m 4292 R 9 0.3 0:38.45 apache2

24683 www-data 16 0 29712 12m 4236 R 9 0.3 0:13.52 apache2

24239 www-data 16 0 28676 11m 4216 S 8 0.3 0:22.48 apache2

23505 www-data 15 0 28548 12m 5680 R 7 0.3 0:43.34 apache2

24637 www-data 16 0 28420 10m 4224 R 7 0.3 0:15.40 apache2

24155 www-data 16 0 29924 12m 4572 R 5 0.3 0:24.16 apache2

24224 www-data 15 0 26204 9176 4216 S 4 0.2 0:25.48 apache2

24156 www-data 15 0 26088 9128 4280 S 4 0.2 0:26.20 apache2

24419 www-data 15 0 26112 9156 4284 S 3 0.2 0:23.57 apache2

24133 www-data 16 0 29720 12m 4584 R 2 0.3 0:29.57 apache2

24238 www-data 15 0 29536 12m 4260 S 2 0.3 0:19.82 apache2

23092 www-data 16 0 29536 12m 4264 R 1 0.3 1:06.25 apache2

24118 www-data 16 0 29936 12m 4604 R 1 0.3 0:26.02 apache2

25070 www-data 16 0 26596 8840 3668 R 1 0.2 0:00.04 apache2

24227 www-data 16 0 29940 12m 4256 R 1 0.3 0:22.29 apache2

24206 www-data 16 0 29936 12m 4240 R 1 0.3 0:28.60 apache2

25063 www-data 18 0 28244 10m 3728 R 1 0.3 0:00.06 apache2

25068 www-data 15 0 28356 10m 3840 S 1 0.3 0:00.29 apache2

1469 root 15 0 2352 1264 852 R 0 0.0 0:10.59 top

5625 root 10 -5 0 0 0 S 0 0.0 55:23.79 kjournald

24682 www-data 15 0 31208 14m 4368 S 0 0.3 0:11.33 apache2

1 root 15 0 1940 636 544 S 0 0.0 0:02.66 init

Bon, on va essayer de t'aider un peu... je te mets ci dessous un bout de code que j'utilise chez mes clients afin de déterminer quels sont les scripts problématiques. Tu mets ça dans un fichier quelconque de ton système (/usr/local/share/foo.php par exemple), puis dans ton php.ini tu modifies la directive auto_prepend_file afin d'y mettre le chemin de ce fichier. Reste plus qu'à faire un reload d'Apache : /etc/init.d/apache2 reload


Le code en question :

<?php

define('__daevel_start', microtime());

ignore_user_abort(true);



$r = getrusage();

define('__daevel_rUser', bcadd(bcdiv($r['ru_utime.tv_usec'], 1000000, 3), $r['ru_utime.tv_sec'], 3));

define('__daevel_rSys',  bcadd(bcdiv($r['ru_stime.tv_usec'], 1000000, 3), $r['ru_stime.tv_sec'], 3));

unset($r);



function __daevel_profiling()

{

    $tmp = explode(' ', __daevel_start);

    $start = $tmp[1] . substr($tmp[0], 1);



    $tmp = explode(' ', microtime());

    $end = $tmp[1] . substr($tmp[0], 1);



    $elapsed = round(bcmul(bcsub($end, $start, 6), 1000, 3));



    $memory = max(memory_get_peak_usage(), memory_get_peak_usage(true));



    /**

     * Si le script ne depasse pas le seuil, sort de suite.

     */

    if( $elapsed < 300 and !connection_aborted() and $memory < 50*1024*1024 )

        return;



    $r = getrusage();

    $rUser = ceil(bcmul(bcsub(bcadd(bcdiv($r['ru_utime.tv_usec'], 1000000, 3), $r['ru_utime.tv_sec'], 3),

        __daevel_rUser, 3), 1000, 3));

    $rSys  = ceil(bcmul(bcsub(bcadd(bcdiv($r['ru_stime.tv_usec'], 1000000, 3), $r['ru_stime.tv_sec'], 3),

        __daevel_rSys, 3), 1000, 3));



    $aborted = connection_aborted();



    $memory  = str_pad(ceil($memory/(1024*1024)), 3, ' ', STR_PAD_LEFT) . 'MB';

    $elapsed = str_pad($elapsed, 6, ' ', STR_PAD_LEFT) .'ms';

    $rUser   = str_pad($rUser, 6, ' ', STR_PAD_LEFT);

    $rSys    = str_pad($rSys, 4, ' ', STR_PAD_LEFT);



    $serverName = isset($_SERVER['SERVER_NAME']) ? $_SERVER['SERVER_NAME'] : '-';

    $requestMethod = isset($_SERVER['REQUEST_METHOD']) ? $_SERVER['REQUEST_METHOD'] : 'CLI';

    $page = isset($_SERVER['REQUEST_URI']) ? $_SERVER['REQUEST_URI'] : $_SERVER['argv'][0];

    $addr = isset($_SERVER['REMOTE_ADDR']) ? $_SERVER['REMOTE_ADDR'] : '127.0.0.1';



    $msg = "$memory $elapsed ($rUser+$rSys) ab:$aborted $serverName $requestMethod $page $addr";



    /**

     * Trace ces informations dans syslog.

     */

    syslog(LOG_INFO, $msg);

}



register_shutdown_function('__daevel_profiling');

Jan 11 22:48:16 front1 php5-cgi:   5MB    523ms (   256+  56) ab:0 www.domain.tld GET /forum/ 90.0.235.56

Jan 11 22:48:17 front1 php5-cgi:   1MB    408ms (     0+   4) ab:0 www.domain.tld GET /jolie/url-magique.htm 213.213.231.127

Jan 11 22:50:47 front1 php5-cgi:   1MB   3031ms (     0+   4) ab:0 www.domain.tld POST /write_user.php 204.19.10.193

                                   /\      /\        /\    /\   /\

                                   ||      ||        ||    ||   ||

                                  Col1    Col2      Col3  Col4 Col5

Merci Bool pour avoir partagé ce script !

Finalement ça a intéressé du monde :p.

Bool, encore une fois merci pour ce super script que j'ai installé et qui fonctionne à merveille. J'ai juste une petite question concernant l'interprétation des résultats. Tu as tout très bien expliqué, mais comment dois-je interprété cela :

Jan 12 11:12:09 xxxxxxx apache2: 7MB 337ms ( 320+ 8) ab:0 www.xxxxxxx.com GET /stylesheet1.css
Jan 12 11:12:09 xxxxxxx apache2: 7MB 636ms ( 356+ 8) ab:0 www.xxxxxxx.com GET /images/panier.png
Jan 12 11:12:09 xxxxxxx apache2: 7MB 633ms ( 340+ 12) ab:0 www.xxxxxxx.com GET /images/img_h.gif
Jan 12 11:12:09 xxxxxxx apache2: 7MB 412ms ( 328+ 20) ab:0 www.xxxxxxx.com GET /images/img_111111111111111.jpg

Il s'agit de fichiers statiques. Est-ce que je peux naturellement en conclure que les scripts php qui se trouvent avant (et que j'avais repéré avec apachetop) sont la cause et du coup on a un mauvais temps pour les fichiers statiques ?

Merci encore pour ton aide précieuse.

Ok, les scripts (il y en a 2) sont des checkers de stock. Cela vérifie à l'aide d'ajax que le produit avec les options désirées n'est ni en rupture, ni en train d'être commandé par un client. J'ai déjà corrigé de grosses erreurs dans la structure des tables MySQL. Mais bon le code est tellement mal conçu, sans commentaires et avec des variables qui n'indiquent pas ce qu'elles sont, que je vais devoir y aller à taton. Toutefois, je vois des boucles imbriquées, je parie que c'est là dedans.

Concernant la partie : "337ms ( 320+ 8)".
Je ne comprend absolument pas. On a un fichier statique (disons en théorie parce que tu me dis que non après), donc il ne devrait pas avoir un tel temps de traitement et indépendamment du script qui l'appel (même si c'est lui le soucis), je devrais avoir une grosse conso CPU sur le script mais pas sur le fichier statique, c'est bien ça ?

Hmm, j'y vois déjà plus clair. Merci.

Pour le stylesheet, c'est un fichier PHP avec un rewriting pour lui donner une extension .css. Je trouve cela plus propre.

Pour le reste, fichier js et fichiers images, je ne vois pas. Il y a bien un .htaccess mais dedans uniquement des règles de rewrite et de l'optimisation cache et deflate.

Par contre tu m'as donné une idée, en regardant les logs de ton script, je remarque que les fichiers traités (images et JS) ne sont pas appelés par le bon chemin.

ex : /xxx/xxx/xxx/inc/js/jquery-1.4.2.min.js

Dans cet exemple, c'est le fichier js qui se trouve dans /inc/js/ qui est appelé. Je ne sais par quel miracle Apache comprend qu'il faut aller le chercher à la racine dans /inc/js/ et non dans les répertoires fictifs créés par le rewrite.
Enfin, c'est vraiment ridicule, le mec qui a fait ça, voyant que ça marchait ne s'est pas posé de question mais c'est logique qu'il fallait faire des appels sur les fichiers depuis la racine.

Bref, merci pour ton aide, je suis en train de corriger tous les chemins. Le log apprécie et le CPU aussi .

Bon courage car ça à l'air plutot...bancal!

Re

Bizarrement les Js, images et autres s'affichent correctement (je ne sais pourquoi) mais si je tape l'URL j'ai bien un 404. 404 qui redirige sur une page d'erreur avec le header, le footer et une image au centre.

Allogarage > Merci. Effectivement c'est plus que bancal et ça me gonfle.

Telaxo > Oui c'est un CMS, Oscommerce pour ne pas le citer. Le problème c'est que ça a été "customisé" par une agence web limite grand luxe qui sous-traitait en Pologne. Le développeur parlait Français apparemment mais ne connaissait pas Oscommerce. On a des rajouts de partout, création de nouvelles fonctions alors qu'il aurait été plus simple de se servir des fonctions OSC. Le code ne comporte aucun commentaire, les variables n'ont pas de noms permettant un debuggage rapide et d'identifier de suite ce que c'est. Bref un vrai casse noix.

Oui toutes les catégories sont des répertoires virtuels. Donc pas le choix de travailler avec les URLs (YOUPI !!!) comme le fait Wordpress par exemple.

Enfin, je ne comprends pas comment le mec a pu concevoir un tel rewriting sans se poser la question. Et puis tant qu'à l'écran ça s'affichait, pourquoi se compliquer la vie !

Merci à vous

Ce script fonctionne-t-il aussi sous Mac sur un env. de dév ?
(je pose la question car j'ai essayé mais cela ne produit rien)

mais de rien ;) Et donc, vous prenez tous un contrat d'infogérance chez moi maintenant ?

JeromeF : s'il y a un syslog sous MacOS, alors oui ; mais sinon tu peux remplacer l'appel syslog() par un appel à error_log()