UNIVERSITE PIERRE ET MARIE CURIE - PARIS VI

HABILITATION A DIRIGER DES RECHERCHES

Spécialité : Mathématiques Présentée par Boyan SIRAKOV Sujet :

Equations aux dérivées partielles elliptiques

non-linéaires

soutenue le 22 novembre 2007 devant le jury composé de

M. Henri  BERESTYCKI
M. Fabrice BETHUEL
Mme Françoise DEMENGEL
M. Alberto FARINA
M. Patricio FELMER(rapporteur)
M. François HAMEL
M. Jean  MAWHIN(rapporteur)

A mes parents, dont l’amour m’est si précieux.

Remerciements

Je tiens tout d’abord à exprimer ma très profonde gratitude envers Henri Berestycki. Il a guidé mes premiers pas dans la recherche et a été pour moi, au fil des ans, un appui constant et un exemple à suivre. Sans ses conseils et son soutien je ne serais pas ce que je suis aujourd’hui. Merci, Henri.

Jean Mawhin m’a fait grand honneur en acceptant de rapporter sur cette habilitation et de faire partie du jury. Qu’il en soit remercié.

Je suis très reconnaissant à Xavier Cabré pour son rapport. J’ai toujours été fier de l’intérêt qu’il porte à mes travaux.

J’apprécie à sa juste valeur l’effort que Patricio Felmer a fait en rapportant sur l’habilitation et en se déplaçant jusqu’à Paris pour la soutenance. J’espère que nous aurons beaucoup d’autres occasions de parler mathématiques.

Fabrice Bethuel a dirigé mon mémoire de DEA et a fait partie de mon jury de thèse. Je suis vraiment très content qu’il vienne de nouveau aujourd’hui.

Je voudrais remercier très sincèrement Françoise Démengel pour le formidable intérêt qu’elle a montré pour mes travaux. Je serais très heureux que nous puissions collaborer à l’avenir.

C’est avec beaucoup de plaisir que je retrouve aujourd’hui Alberto Farina et François Hamel, et je les remercie chaleureusement d’avoir accepté de faire partie du jury.

Je remercie Djairo de Figueiredo pour son hospitalité à l’Université de Campinas. J’y ai passé de très bons moments, qui ont beaucoup contribué à ma recherche et à notre collaboration.

Je suis très heureux de compter parmi mes amis Alexander Quaas. Notre collaboration durera, sans aucun doute, longtemps encore. Je remercie aussi Francesca da Lio, dont j’apprécie énormément les qualités scientifiques et humaines.

J’ai une pensée très particulière pour Jérôme Busca à qui je souhaite beaucoup de succès.

Je m’estime extrêmement chanceux d’appartenir à deux équipes de recherche exceptionnelles - MODAL’X de Paris 10 et le CAMS de l’EHESS. Je me suis toujours senti à ma place dans ces deux endroits, j’ai toujours trouvé mes collègues d’une amabilité sans égal. Je voudrais leur dire ma reconnaissance.

Je remercie M. David qui, comme toujours, a fait un travail de très haut niveau.

Présentation générale

Ma recherche est consacrée à l’étude des équations et des systèmes d’équations aux dérivées partielles non-linéaires elliptiques et paraboliques et à leurs applications. Mes travaux s’articulent autour des thèmes suivants :

– Théorie générale des EDP complètement non-linéaires et solutions de viscosité d’EDP

– Estimations elliptiques et théorie de la régularité pour systèmes d’EDP elliptiques sous forme non divergence

– Méthodes variationnelles pour la résolution d’EDP de la physique quantique - équation de Schrödinger et systèmes d’équations de Schrödinger

– Estimations à priori et méthodes topologiques pour la résolution d’EDP et de systèmes d’EDP elliptiques

– Symétrie et monotonie des solutions positives d’EDP et de systèmes d’EDP dans des domaines non bornés

– Problèmes aux limites surdéterminés et problèmes à frontière libre

Les chapitres suivants contiennent un synthèse de mes travaux. Naturellement, les résumés des articles sont regroupés de manière thématique, l’ordre n’est donc pas chronologique. Chacun des quatre chapitres décrit un thème de ma recherche. Ces thèmes n’étant pas disjoints, un effort a été entrepris pour montrer les liens entre eux. Les deux premiers chapitres sont consacrés aux équations complètement non-linéaires et aux systèmes sous forme non-divergence, le Chapitre 3 concerne des équations et des systèmes variationnels, et le dernier chapitre est dédié à l’étude des propriétés qualitatives des solutions positives de ces équations et systèmes. On trouvera à la fin de ce document une liste détaillée des publications, ainsi qu’une bibliographie.

Dans toute la suite, les références en lettres ([S1], etc.) correspondent à mes travaux de recherche tandis que les références en chiffres ([1], [2], etc.) se rapportent à d’autres auteurs.

Tous mes travaux peuvent être télechargés à l’adresse suivante :

       http ://hal.archives-ouvertes.fr/aut/boyan+sirakov

Table des matières

1 Théorie générale des équations complètement non-linéaires 6

1.1 Valeurs propres principales, le principe de comparaison et l’in-

égalité d’Alexandrov-Bakelman-Pucci . . . . . . . . . . . . . . 7 1.2 Le problème de Dirichlet . . . . . . . . . . . . . . . . . . . . . 10 1.3 Equations avec croissance naturelle et coefficients non-bornés . 13 1.4 Equations avec croissance polynomiale . . . . . . . . . . . . . 15

2 Systèmes non-variationnels 17

2.1 Estimations de type Alexandrov-Bakelman-Pucci et Harnack

pour les systèmes . . . . . . . . . . . . . . . . . . . . . . . . . 17 2.2 Valeurs propres pour les systèmes complètement non-linéaires 21 2.3 Notions de sous-linéarité et de sur-linéarité pour un système

général et applications . . . . . . . . . . . . . . . . . . . . . . 24 2.4 Estimations à priori et technique de "blow-up" . . . . . . . . . 28 2.5 Le problème d’Ambrosetti-Prodi . . . . . . . . . . . . . . . . . 31

3 Méthodes variationnelles pour l’équation et les systèmes de Schrödinger 34 3.1 Etude asymptotique dans le cas d’une équation . . . . . . . . 36 3.2 La condition de Palais-Smale dans un domaine non-borné. Le

cas d’une nonlinéarité non-bornée en x . . . . . . . . . . . . . 38 3.3 Ondes stationnaires en optique non-linéaire . . . . . . . . . . . 41 3.4 Systèmes de type hamiltonien . . . . . . . . . . . . . . . . . . 45 3.5 Etude asymptotique dans le cas d’un système . . . . . . . . . 48

4 Les résultats de symétrie et de monotonie. 49

4.1 Examples de problèmes physiques menant à des problèmes aux

limites sur-déterminés . . . . . . . . . . . . . . . . . . . . . . 50 4.2 Problèmes aux limites sur-déterminés dans des domaines ex-

térieurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53 4.3 Symétrie des solutions de systèmes elliptiques semi-linéaires

dans l’espace entier . . . . . . . . . . . . . . . . . . . . . . . 55 4.4 Propriétés qualitatives des solutions de viscosité

d’équations complètement non-linéaires . . . . . . . . . . . . . 57 4.5 Un résultat de monotonie pour les systèmes . . . . . . . . . . 60

1 Théorie générale des équations complètement non-linéaires

Dans ce chapitre je décris quelques résultats concernant les équations uniformément elliptiques de la forme

F (D^{2}u, Du, u, x) = f(u, x) dans Ω ⊂ ℝ^{N},  (1)

où F est par exemple un opérateur de Hamilton-Jacobi-Bellman (ou d’Isaac, voir ci-dessous) à coefficients mesurables et f est une fonction mesurable en x, avec croissance polynomiale en u. Nous avons plusieurs résultats nouveaux même pour le cas particulier du problème de Dirichlet, où f ne dépend que de x et l’équation est donnée dans un domaine avec valeur de la solution fixe sur le bord.

On remarque que les opérateurs d’Isaac sont un outil de base dans la théorie des jeux, tandis que les opérateurs de Hamilton-Jacobi-Bellman sont essentiels dans la théorie du contrôle et dans la théorie des grandes déviations.

Dans toute cette partie on considère des solutions de L^{N}−viscosité des équations auxquelles on s’intéresse. Il s’agit de la notion de solution faible adaptée à ce type d’équations. On rappelle la définition suivante (pour plus de détails voir [40]). Une fonction u ∈ C(Ω) est dite sous-solution (resp. sursolution) de viscosité de (1) si, pour tout ε > 0, toute boule B ⊂ Ω et toute fonction ϕ ∈ W^{2,N}(Ω) l’inégalité F (D^{2}ϕ, Dϕ, u, x) ≤ f(u, x) − ε dans B implique que u−ϕ n’atteint pas de maximum dans B (resp. F (D^{2}ϕ, Dϕ, u, x) ≥ f(u, x) + ε dans B implique que u − ϕ n’atteint pas de minimum dans B). On dit que u est une solution si elle est à la fois sous-solution et sur-solution.

Le lecteur non-spécialisé en solutions de viscosité pourrait retenir que toutes les équations que nous étudions ont la propriété qu’une fonction dans W_{loc}^{2,N}(Ω) les vérifie presque partout si et seulement si elle est une solution de viscosité. De plus, f(x, u) ∈ L_{loc}^{p}(Ω), p ≥ N, implique u ∈ C_{loc}^{1,α}(Ω), et u ∈ W_{loc}^{2,p}(Ω) lorsque F est un opérateur de Hamilton-Jacobi-Bellman.

Le développement de la théorie des solutions de viscosité a été l’une des grandes avancées dans l’étude des équations elliptiques et paraboliques pendant les trente dernières années, et en particulier des équations complètement non-linéaires (1). Les quatre sections suivantes contiennent des contributions à cette étude.

Dans ce chapitre on notera avec F les opérateurs de Hamilton-Jacobi-Bellman et avec H les opérateurs plus généraux (par exemple, d’Isaac). Nous définissons ces opérateurs dans la section suivante.

1.1 Valeurs propres principales, le principe de comparaison et l’inégalité d’Alexandrov-Bakelman-Pucci

Dans les travaux [QS1],[QS3] nous avons étudié l’existence et les propriétés des valeurs propres principales des opérateurs de Hamilton-Jacobi-Bellman (HJB) de la forme

F_{HJB}[u] = F (D^{2}u, Du, u, x) = sup_{α∈A} L_{α}u,

où A est un ensemble d’indices quelconque et

L_{α} = ∑_{i,j=1}^{N} a_{ij}^{(α)}(x)∂_{ij} + ∑_{i=1}^{N} b_{i}^{(α)}(x)∂_{i} + c^{(α)}(x)

sont des opérateurs linéaires uniformément elliptiques, avec coefficients bornés et mesurables. On suppose que Ω ⊂ ℝ^{N} est un domaine borné (que nous prendrons régulier, pour simplifier les énoncés) et que A^{(α)}(x) = (a_{ij}^{(α)}(x)) ∈ C(\overline{Ω}), λI ≤ A^{(α)} ≤ ΛI, |b_{i}^{(α)}| ≤ ν, |c^{(α)}| ≤ δ pour chaque α ∈ A, où Λ ≥ λ > 0, ν, δ ≥ 0.

En utilisant une approche probabiliste, P.L. Lions ([97]) a montré que F_{HJB} possède deux "demi"-valeurs propres correspondant respectivement à une fonction propre positive et une fonction propre négative, sous l’hypothèse que les coefficients des opérateurs L_{α} sont dans C^{1,1}(Ω). Notre premier objectif était d’enlever cette hypothèse, qui est rarement satisfaite dans les applications, et de donner une preuve purement analytique de l’existence de valeurs propres. D’autre part, Berestycki, Nirenberg et Varadhan [26] ont montré que tout opérateur linéaire (|A| = 1) possède une valeur propre principale dont la positivité est une condition nécessaire et suffisante pour que l’opérateur satisfasse le principe de comparaison (et l’inégalité d’Alexandrov-Bakelman-Pucci, voir ci-dessous) et garantit la solvabilité du problème de Dirichlet associé. Nous avons donné une extension complète de ces résultats aux opérateurs HJB (A quelconque), en exhibant les différences dues à la nature non-linéaire de notre problème. Nos preuves sont fortement non-linéaires et essentiellement différentes de celles dans les résultats précédents.

Pour illustrer les remarques précédentes, considérons les équations

Lu + c(x)u = f(x) et  sup_{α∈A} L_{α}u + c(x)u = f(x),

où L, L_{α} sont des opérateurs linéaires sans terme d’ordre zéro et c ∈ L^{∞}(Ω). Il a été établi dans [26] que la première de ces deux équations vérifie le principe de maximum et l’inégalité d’Alexandrov-Bakelman-Pucci si et seulement si λ_{1}(L + c, Ω) > 0, et que dans ce cas le problème de Dirichlet associé possède une solution unique. En revanche, pour la deuxième équation de tels résultats n’étaient connus que dans le cas c(x) ≤ 0. Nous montrons que l’opérateur sup_{α∈A} L_{α}u a deux valeurs propres (qui coincident si |A| = 1) dont la positivité a les mêmes implications.

Voici les énoncés exactes de nos principaux théorèmes. Pour chaque μ ∈ ℝ on définit les ensembles

Ψ^{+}(F, Ω, μ) = \{ψ ∈ C(\overline{Ω}) | ψ > 0 in Ω, F (D^{2}ψ, Dψ, ψ, x) + μψ ≤ 0 in Ω\},

Ψ^{−}(F, Ω, μ) = \{ψ ∈ C(\overline{Ω}) | ψ < 0 in Ω, F (D^{2}ψ, Dψ, ψ, x) + μψ ≥ 0 in Ω\},

et les quantités suivantes (qui dépendent de F et de Ω)

λ_{1}^{+} = sup {μ | Ψ^{+}(F, Ω, μ) ≠ ∅}, λ_{1}^{−} = sup {μ | Ψ^{−}(F, Ω, μ) ≠ ∅}.

Alors nous avons le théorème suivant. On note E_{q} = W_{loc}^{2,q}(Ω) ∩ C(\overline{Ω}).

Théorème 1 Il existe des fonctions φ_{1}^{+}, φ_{1}^{−} ∈ E_{q}, q < ∞, telles que

F (D^{2}φ_{1}^{+}, Dφ_{1}^{+}, φ_{1}^{+}, x) = −λ_{1}^{+}φ_{1}^{+}, φ_{1}^{+} > 0 dans Ω, φ_{1}^{+} = 0 sur ∂Ω,

resp. F (D^{2}φ_{1}^{−}, Dφ_{1}^{−}, φ_{1}^{−}, x) = −λ_{1}^{−}φ_{1}^{−}dans Ω, φ_{1}^{−} < 0 in Ω, φ_{1}^{−} = 0 sur ∂Ω.

Si φ_{1}^{+} (φ_{1}^{−}) est normalisée de façon que φ_{1}^{+}(x_{0}) = 1 (resp. φ_{1}^{−}(x_{0}) = −1) pour un point donné x_{0} ∈ Ω, alors φ_{1}^{+} ≤ C (resp. φ_{1}^{−} ≥ −C) dans Ω, où C dépend de N, x_{0}, Ω, et des bornes sur les coefficients de L_{α}.

De plus, λ_{1}^{+} (resp. λ_{1}^{−}) est la seule valeur propre qui correspond à une fonction propre positive (resp. négative). Les sous-espaces de C(\overline{Ω}) contenant les fonctions propres correspondant à ces valeurs sont de dimension 1.

Il existe ε > 0 dépendant de N, Ω, et des bornes sur les coefficients de L_{α}, tel qu’il n’y a pas d’autres valeurs propres dans (−∞, λ_{1}^{−} + ε) \ {λ_{1}^{+}, λ_{1}^{−}}.

Il s’ensuit facilement de la définition des valeurs propres que

λ_{1}^{+}(F_{HJB}) ≤ inf_{α∈A} λ_{1}(L_{α}) ≤ sup_{α∈A} λ_{1}(L_{α}) ≤ λ_{1}^{−}(F_{HJB}),  (2)

où λ_{1}(L_{α}) est la valeur propre principale de l’opérateur linéaire L_{α}, étudiée dans [26]. On note que si la première inégalité dans (2) est en réalité une égalité (sous des hypothèses très générales), la troisième inégalité est en général stricte, voir [QS3].

Le théorème suivant donne une condition nécessaire et suffisante pour qu’un opérateur ait des valeurs propres positives.

Théorème 2 (a) Supposons qu’il existe une fonction u ∈ C(\overline{Ω}) telle que l’on ait F (D^{2}u, Du, u, x) ≤ 0 dans Ω, u > 0 dans Ω, (resp. F (D^{2}u, Du, u, x) ≥ 0 dans Ω, u < 0 dans Ω). Alors soit λ_{1}^{+} > 0 soit λ_{1}^{+} = 0 et u ≡ tφ_{1}^{+}, pour un t > 0 (resp. λ_{1}^{−} > 0 ou λ_{1}^{−} = 0 et u ≡ tφ_{1}^{−}).

(b) Inversement, si λ_{1}^{+} > 0 alors il existe une fonction u ∈ W^{2,p}(Ω), p < ∞, telle que F (D^{2}u, Du, u, x) ≤ 0, u ≥ 1 dans Ω, et ∥u∥_{W^{2,p}(Ω)} ≤ C, où C depend de p, N, λ, Λ, γ, δ, et λ_{1}^{+}.

La théorie des équations complètement non-linéaires est particulièrement développée pour les opérateurs propres, c’est-à-dire, décroissants en u dans notre cas (c^{(α)} ≤ 0). Les résultats qui suivent (inégalité d’Alexandrov-Bakel-man-Pucci, solvabilité du problème de Dirichlet) sont connus pour ces opérateurs, voir [40], [50]. Notre objectif principal est d’étendre ces résultats autant que possible, c’est-à-dire de donner des conditions nécessaires et suffisantes pour qu’ils soient vérifiés. Remarque. Théorème 2 (a) avec u ≡ 1 montre que les opérateurs propres ont des valeurs propres positives. Une autre conséquence de ce théorème est que les valeurs propres sont continues et strictement décroissantes par rapport au domaine Ω.

On montre que la positivité des valeurs propres est une condition nécessaire et suffisante pour qu’un opérateur HJB satisfasse le principe de comparaison. On rappelle qu’un opérateur H satisfait le principe de comparaison (CP) si pour toutes fonctions u, v ∈ C(\overline{Ω}), dont l’une est dans E_{N}, les inégalités H(D^{2}u, Du, u, x) ≥ H(D^{2}v, Dv, v, x) dans Ω, u ≤ v sur ∂Ω, impliquent u ≤ v dans Ω. Naturellement, le (CP) implique l’unicité de la solution du problème de Dirichlet correspondant. Un cas particulier du (CP) est le principe du maximum, quand l’une de u, v est prise identiquement nulle.

Théorème 3 L’opérateur F satisfait le principe de comparaison dans Ω si et seulement si λ_{1}^{+}(F) > 0. Du coup, si un opérateur du second ordre H vérifie

\begin{aligned}−F (N − M, q − p, v − u, x) & ≤ & H(M, p, u, x) − H(N, q, v, x) \\ & ≤ & F (M − N, p − q, u − v, x). \end{aligned} (3)

alors λ_{1}^{+}(F) > 0 suffit pour que H satisfasse (CP) (noter que (3) avec H = F est toujours vérifiée, à cause de la convexité de F (M, p, u, x) en (M, p, u)).

Remarque 1. Le dernier énoncé dans ce théorème donne une condition suffisante pour qu’un opérateur d’Isaac

H(D^{2}u, Du, u, x) = sup_{α∈A} inf_{β∈B} L_{α,β}u,

satisfasse le principe de comparaison. Remarque 2. Si λ_{1}^{−} > 0 ≥ λ_{1}^{+}, le principe de comparaison n’est pas valide – voir la section suivante.

On montre l’inégalité d’Alexandrov-Bakelman-Pucci (ABP, appelée aussi principe de maximum généralisé) pour des opérateurs complètement nonlinéaires non-propres. Ceci est le premier résultat de ce type dans la littérature. L’inégalité ABP joue un rôle fondamental dans la théorie des équations sous forme non-divergence, voir par exemple [74], Chapitre 9, pour le cas linéaire, et [39] pour des cas plus généraux d’opérateurs propres.

Le théorème suivant affirme que la positivité de chaque valeur propre est une condition nécessaire et suffisante pour une inégalité ABP unilaterale.

Théorème 4 Pour tous u ∈ C(\overline{Ω}), f ∈ L^{N}(Ω) les inégalités F (D^{2}u, Du, u, x) ≥ f, λ_{1}^{+}(F) > 0 (resp. F (D^{2}u, Du, u, x) ≤ f, λ_{1}^{−}(F) > 0) impliquent

sup_{Ω} u ≤ C(sup_{∂Ω} u^{+} + ∥f^{−}∥_{L^{N} (Ω)}), ( resp. sup_{Ω} u^{−} ≤ C(sup_{∂Ω} u^{−} + ∥f^{+}∥_{L^{N} (Ω)}))

où C dépend de N, λ, Λ, ν, δ, diam(Ω), et de λ_{1}^{+} (resp. de λ_{1}^{−}).

Remarque 1. Si λ_{1}^{+} ≤ 0 (resp. λ_{1}^{−} ≤ 0) alors φ_{1}^{+} (resp. φ_{1}^{−}) montre que les inégalités dans le Théorème 4 (avec f = 0) sont fausses. Remarque 2. Des résultats d’existence de valeurs et de fonctions propres pour certains cas particuliers d’opérateurs HJB sont contenus dans [23] (pour le cas unidimensionnel), [97] (voir plus haut), [63], [33] (pour les opérateurs de Pucci). Les théorèmes 3 et 4 sont complètement nouvelles dans le cas non-linéaire. Des résultats d’existence d’éléments propres pour opérateurs non-linéaires différents des nôtres peuvent être trouvés dans [27], [81]. Remarque 3. Dans [QS3] nous démontrons plusieurs autres propriétés des éléments propres. En particulier, nous obtenons des bornes inférieures et supérieures pour les valeurs propres en fonction de N, λ, Λ, ν, δ, et de la géométrie du domaine, qui permettent de vérifier en pratique les conditions de signe dans les théorèmes.

1.2 Le problème de Dirichlet

Nous avons aussi étudié le problème de Dirichlet pour les opérateurs de type HJB ou Isaac,

\{ \begin{matrix}H(D^{2}u, Du, u, x) & = & f(x) & dans & Ω \\ u & = & 0 & sur & ∂Ω, \end{matrix}  (4)

sans condition de monotonie sur la dépendance en u (opérateurs non-propres). On montre en particulier que le problème de Dirichlet a une unique solution pour tout opérateur HJB coercif (dont les valeurs propres sont positives).

Théorème 5 Soit H un opérateur qui vérifie (3) (on rappelle que (3) est vraie pour H = F, F étant un opérateur HJB). Si λ_{1}^{+}(F) > 0 alors pour tout f ∈ L^{q}(Ω), q ≥ N, il existe une solution de viscosité de (4).

Si la dépendance de H en la matrice D^{2}u est convexe ou concave (comme pour un opérateur HJB) alors la solution u ∈ E_{q}, et u est l’unique solution de viscosité du problème de Dirichlet. De plus, pour tout compact ω ⊂⊂ Ω on a ∥u∥_{W^{2,q}(ω)} ≤ C∥f∥_{L^{q}(Ω)}.

Si λ_{1}^{+} ≤ 0 la situation est beaucoup plus complexe. Nous avons étudié le cas λ_{1}^{−} > 0 ≥ λ_{1}^{+}. Il est à noter que dans cette situation on ne peut s’inspirer du cas linéaire pour avoir une intuition sur les résultats à envisager, car l’écart entre les deux valeurs propres est dû à la nature non-linéaire de l’opérateur. Un premier résultat dans ce cas est le suivant (voir [QS3]).

Théorème 6 Si λ_{1}^{−} > 0 alors F (D^{2}u, Du, u, x) = f dans Ω, u = 0 sur ∂Ω possède une solution, à condition que f ≥ 0 dans Ω. Dans ce cas u ≤ 0 dans Ω.

En revanche, si λ_{1}^{+} = 0 le même problème n’a pas de solution dans C(\overline{Ω}), à condition que f ≤ 0, f ≢ 0 dans Ω.

Récemment j’ai obtenu un résultat beaucoup plus précis, montrant qu’il n’y a pas d’unicité si les deux valeurs propres ont un signe différent, voir [S8]. Il est établi dans ce travail que le cas λ_{1}^{−} > 0 > λ_{1}^{+} est lié à un phénomène classique dans la théorie des équations elliptiques semi-linéaires, découvert par Ambrosetti et Prodi (voir chapitre 2.5) et fort étudié depuis. Ce lien ne semble pas avoir été observé plus tôt.

Soit H un opérateur tel que pour tous M ∈ S_{N}(ℝ), p ∈ ℝ^{N}, u ∈ ℝ, x ∈ Ω et pour certaines constantes A_{0}, c, γ ≥ 0

F (M, p, u, x) − A_{0} ≤ H(M, p, u, x) ≤ M_{λ,Λ}^{+}(M) + γ|p| + c|u| + A_{0}, (5)

où F est un opérateur HJB comme dans la section précédente et M_{λ,Λ}^{+} est l’opérateur extremal de Pucci. Bien entendu, on peut toujours prendre H = F. On suppose en plus que H(M, p, u, x) est globalement Lipschitzienne en (M, p) et localement Lipschitzienne en u, uniformément en x.

On rappelle que les opérateurs de Pucci sont définis par

M_{λ,Λ}^{+}(M) = Λ ∑_{e_{i}>0} e_{i} + λ ∑_{e_{i}<0} e_{i}, M_{λ,Λ}^{−}(M) = λ ∑_{e_{i}>0} e_{i} + Λ ∑_{e_{i}<0} e_{i},

pour toute matrice symétrique M. Ici e_{i} = e_{i}(M), i = 1, ..., N, sont les valeurs propres de M. Les opérateurs de Pucci sont extrêmaux dans le sens où M_{λ,Λ}^{+}(M) = sup_{A∈A_{λ,Λ}} tr(AM) , M_{λ,Λ}^{−}(M) = inf_{A∈A_{λ,Λ}} tr(AM), où A_{λ,Λ} désigne

l’ensemble de toutes les matrices symétriques dont les valeurs propres sont dans l’intervalle [λ, Λ]. Autrement dit, tout opérateur linéaire uniformément elliptique est borné supérieurement et inférieurement par un opérateur de Pucci. On note que M_{1,1}^{±} = Δ.

On décompose le second membre f(x) dans (4) comme

f(x) = −tϕ(x) + h(x),

où t ∈ ℝ, ϕ = φ_{1}^{+}(F_{0}, Ω) est la première fonction propre positive de l’opérateur F_{0}(M, p, x) = F (M, p, 0, x), normalisée de façon à ce que max_{Ω} ϕ = 1. L’existence de cette fonction s’ensuit des résultats dans la section précédente.

Théorème 7 On suppose (5) et

λ_{1}^{+}(F, Ω) < 0 < λ_{1}^{−}(F, Ω).  (6)

Alors pour tout h ∈ L^{∞}(ℝ^{N}) il existe un t^{∗} = t^{∗}(h) ∈ ℝ tel que :

(1) si t < t^{∗} alors (4) a au moins deux solutions ;

(2) si t = t^{∗} alors (4) a au moins une solution ;

(3) si t > t^{∗} alors (4) n’a pas de solution.

L’application h → t^{∗}(h) est continue de L^{∞}(ℝ^{N}) dans ℝ.

Ce théorème, appliqué aux opérateurs H_{L}(M, p, u, x) = tr(A(x)M) + b(x).p + g(x, u), et F_{L}(M, p, u, x) = tr(A(x)M) + b(x).p + c_{1}u^{+} − c_{2}u^{−} sous la condition g(x, u) ≥ c_{1}u^{+} − c_{2}u^{−} − c_{0} et c_{1} > λ_{1} > c_{2} où λ_{1} est la première valeur propre de l’opérateur linéaire L(M, p, x) = tr(A(x)M) + b(x).p, donne le résultat typique que l’on obtient dans le cadre du problème de Ambrosetti et Prodi. Ceci montre que ce phénomène classique dans la théorie des équations semi-linéaires est en réalité dû à la non-unicité des solutions du problème de Dirichlet pour des opérateurs non-linéaires dont les deux valeurs propres principales ont des signes opposés. Pour plus de commentaires sur le problème d’Ambrosetti-Prodi, voir le chapitre 2.5.

Dans un travail en cours nous étudions la solvabilité du problème de Dirichlet dans les cas "résonants" λ_{1}^{+} = 0 et λ_{1}^{−} = 0, ainsi que le cas où λ_{1}^{−} est négatif mais petit.

1.3 Equations avec croissance naturelle et coefficients non-bornés

S’appuyant sur les résultats précédents, dans [S10] j’ai obtenu des résultats d’existence et d’estimations elliptiques pour les solutions du problème de Dirichlet (cas modèle)

\{ \begin{matrix}M(D^{2}u) + μ(x)|Du|^{2} + b(x)|Du| + c(x)u & = & f(x) & dans & Ω \\ u & = & 0 & sur & ∂Ω. \end{matrix} (7)

où M est un opérateur de Pucci (voir la section précédente), et

μ ∈ L^{∞}(ℝ^{N}),  b ∈ L^{q}(Ω), q > N,  c, f ∈ L^{N}(Ω).  (8)

Dans la littérature on utilise souvent le terme "croissance naturelle" pour indiquer la présence du terme quadratique en le gradient. De la même manière on peut considérer des termes |Du|^{a} avec a ∈ [1, 2]. Pour comparer avec les résultats de la section précédente, là on supposait que μ ≡ 0, b, c ∈ L^{∞}(ℝ^{N}).

Ces équations ont été très étudiés dans le cas d’un opérateur sous forme divergence, comme par exemple

div(A(x)Du) + μ_{0}|Du|^{2} + b(x).Du + c_{0}u = f(x)

(voir [30], [64], [75], [18], [17], et les références dans ces travaux). Pour ces équations on recherche des solutions dans les espaces de Sobolev, qui fournissent la notion naturelle de solution faible dans le cas divergence. Le Théorème 8 ci-dessous peut être vu comme la contrepartie de ces résultats dans le cadre des solutions faibles (de viscosité) d’équations complètement nonlinéaires. Bien entendu, les méthodes que l’on emploie dans chacun de ces deux cas sont tout à fait différentes.

On note que (7) est juste un cas modèle, plus généralement on peut considérer des opérateurs d’Isaac

sup_{α∈A} inf_{β∈B} F^{α,β}(u, x) = 0,

où F^{α,β}(u, x) désigne l’opérateur

tr (A^{α,β}(x)D^{2}u) + <Q^{α,β}(x)Du, Du> + <b^{α,β}(x), Du> +c^{α,β}(x)u − f^{α,β}(x).

On obtient le résultat d’existence suivant.

Théorème 8 On considère le problème (7).

(i) si c(x) ≤ −c_{0} p.p. dans Ω, pour un c_{0} > 0, alors pour tout f ∈ L^{N}(Ω) il existe une solution u ∈ C(\overline{Ω}) de (7).

(ii) il existe des constantes positives δ_{0}, c_{0}, qui dépendent de λ, Λ, q, N, Ω, ∥b∥_{L^{q}(Ω)}, telles que si

∥μf∥_{L^{N} (Ω)} ≤ δ_{0}  et ∥c^{+}∥_{L^{∞}(ℝ^{N})} < c_{0},  (9)

alors il existe une solution u ∈ C(\overline{Ω}) de (7). (iii) Si (7) avec c^{+} ≡ 0, ou avec μ = 0 et ∥c^{+}∥_{L^{∞}(ℝ^{N})} < c_{0}, a une solution

u ∈ W_{loc}^{2,N}(Ω) ∩ C(\overline{Ω}), alors u est l’unique solution de viscosité de (7). (iv) Les solutions de (7) ne sont pas uniques si μ > 0 et c(x) ≡ c > 0

arbitrairement petits, même pour b = f ≡ 0.

Remarque. Il est très facile de voir, même pour les plus simples examples d’équation du type (7), comme −Δu + μ|Du|^{2} + cu = f, que pour μ ≡ 0 et c(x) ≡ c_{0} assez grand, ou pour μf assez grand et c ≡ 0, le problème (7) peut ne pas avoir de solutions.

L’existence de solutions fortes (c’est-à-dire dans W^{2,q}, q ≥ N) d’équations quasi-linéaires avec croissance naturelle a été étudié dans les travaux classiques de Ladizhenskaya-Uraltseva et Krylov-Safonov. Il y a assez peu de résultats pour des équations complètement non-linéaires et des solutions de viscosité. Un résultat pour des opérateurs convexes, b ∈ L^{2N}, μ = c ≡ 0 est énoncé dans [71]. Dans [83] on étudie des équations avec μ > 0, b ∈ L^{∞}(ℝ^{N}). Dans ces travaux on supposait c^{+} ≡ 0. Le Théorème ci-dessus unifie et étend considérablement ces résultats (avec une preuve différente), couvrant le cas de coefficients non-bornés b ∈ L^{q}, q > N, c, d ∈ L^{N}. En réalité, l’hypothèse (9) est nouvelle même pour les équations sous forme divergence. De plus, il n’avait pas été observé précédemment que l’unicité est perdue lorsque l’on admet μ ≢ 0 et c^{+} ≢ 0 en même temps.

Les démonstrations des résultats d’existence dans Théorème 8 combinent des techniques d’approximation et de sur- et sous-solutions (méthode de Perron), et utilisent les propriétés des valeurs propres des opérateurs de Hamilton-Jacobi-Bellman, que nous avons exposé plus haut. L’unicité (iii) est obtenue grâce à l’inégalité ABP, tandis que le résultat de non-unicité (iv) utilise la théorie du degré topologique.

Une étape essentielle dans la preuve des résultats d’existence est l’estimation Hölderienne suivante.

Théorème 9 Supposons que u ∈ C(Ω) est une solution de (7). Alors

1. (estimation locale) il existe α ∈ (0, 1) dependant de N, λ, Λ, q, ∥b∥_{L^{q}(Ω)}, tel que u ∈ C_{loc}^{α}(Ω), et pour tout sous-domaine Ω′ ⊂⊂ Ω on a

∥u∥_{C^{α}(Ω′)} ≤ K,

où K depend de N, λ, Λ, μ, q, ∥b∥_{L^{q}(Ω)}, ∥c∥_{L^{N} (Ω)}, ∥f∥_{L^{N} (Ω)}, dist(Ω′, ∂Ω), sup_{Ω′} u.

2. (estimation globale) si, de plus, u ∈ C(\overline{Ω}), u|_{∂Ω} ∈ C^{β}(∂Ω) pour un β ∈ (0, 1), et Ω satisfait une condition de cône extérieur uniforme (avec taille L), alors il existe α ∈ (0, 1) dependant de N, λ, Λ, β, L, q, ∥b∥_{L^{q}(Ω)}, tel que u ∈ C^{α}(\overline{Ω}), et

∥u∥_{C^{α}(Ω)} ≤ K,

où K depend de N, λ, Λ, μ, q, ∥b∥_{L^{q}(Ω)}, ∥c∥_{L^{N} (Ω)}, ∥f∥_{L^{N} (Ω)}, L, diam(Ω), sup_{Ω} u.

Ce théorème est important en soi, car il permet l’approximation d’équations quelconques par des équations à coefficients réguliers (voir Théorème 3.8 dans [40] et Théorème 4 dans [S10]). Il étend des résultats précédents de Caffarelli et Wang pour des équations à coefficients bornés.

La démonstration du Théorème 9 repose sur une adaptation d’une observation de Krylov aux équations complètement non-linéaires et aux solutions de viscosité, l’idée étant qu’il est possible de montrer une estimation C^{α} à partir d’une étude relativement simple des ensembles de niveau de la fonction, sans avoir à prouver au préalable une inégalité de Harnack. Cette approche, basée essentiellement sur l’inégalité ABP, est nouvelle dans ce cadre. Notons que l’inégalité de Harnack n’est pas connue pour un opérateur général comme dans (7) – même dans le cadre des solutions fortes il faut supposer au moins que b ∈ L^{2N} (voir [123]).

1.4 Equations avec croissance polynomiale

Les résultats d’existence dans les sections précédentes concernaient des opérateurs H(M, p, u, x) avec croissance linéaire en u. Une question naturelle et fréquente dans les applications est de savoir si de tels résultats peuvent être obtenus pour des équations avec croissance polynomiale en u.

Dans [QS2] nous avons étudié cette question pour les équations complètement non-linéaires et non-propres. Le cas modèle est le suivant

M(D^{2}u) + u^{p} = 0 dans Ω
u > 0 dans Ω
u = 0 sur ∂Ω,

(10)

où M est un opérateur de Pucci et Ω est un domaine borné régulier. Les résultats de cet article se généralisent facilement aux équations de type

F (D^{2}u, Du, u, x) + f(x, u) = 0,  (11)

où F est un opérateur HJB avec valeurs propres positives et f(x, u) ∼ b(x)u^{p} lorsque u → ∞, avec b continue et positive sur \overline{Ω}.

Nous montrons le résultat suivant.

Théorème 10 On pose

p^{∗} = \{ \begin{matrix}\frac{Λ(N − 1) + λ}{Λ(N − 1) − λ} & si & Λ(N − 1) > λ \\ +∞ & si & Λ(N − 1) ≤ λ. \end{matrix}

Si p ∈ (0, p^{∗}) \ {1} alors (11) a une solution positive u dans Ω, avec u = 0 sur ∂Ω.

Ce théorème est une continuation de l’étude de problèmes de type (10) débutée dans [63], [112], où les auteurs ont considéré des domaines convexes et des opérateurs plus restrictifs.

La preuve du Théorème 10 utilise un raisonnement basé sur le degré topologique de Leray-Schauder. Il combine des techniques semi-linéaires (on rappelle que le Théorème 10 pour (10) avec M = Δ est bien connu) avec des techniques propres à l’étude des solutions de viscosité.

Nous montrons, par analogie avec le cas semi-linéaire (voir la section 2.3), qu’il est possible de diviser les équations (11) en deux types : sous-linéaires et sur-linéaires, en fonction de la façon dont les limites de f(x, u)/u en zéro et à l’infini se comparent à λ_{1}^{+}(F, Ω).

Pour pouvoir appliquer la théorie de Leray-Schauder et Krasnoselskii, il est essentiel d’établir des estimations à priori pour le problème. Ceci signifie que nous devons savoir au préalable que toutes les solutions éventuelles sont uniformément bornées dans la norme L^{∞}(Ω). Nous reviendrons à ces questions par la suite.

Nous obtenons une estimation à priori via la méthode de "blow-up" de Gidas et Spruck, bien connue dans le cas semi-linéaire. Cette méthode est basée sur l’utilisation de théorèmes de non-existence de solutions positives ("Théorèmes de Liouville") dans l’espace entier ou dans des demi-espaces pour les équations comme (10). Une partie importante de l’article [QS2] est consacrée à un tel théorème pour (10). D’autres résultats de Liouville de ce type peuvent être trouvés dans [51], [61], [QS5].

Finalement, on note que si l’on a plus d’information sur l’opérateur elliptique F on peut améliorer le résultat dans le Théorème 10, plus exactement, l’intervalle sur p qui y apparaît. Par exemple, si l’on considère le problème (10) avec M = M_{λ,Λ}^{+} alors le Théorème 10 est valide si l’on permute λ et Λ dans la définition de p^{∗}. Ceci est dû aux intervalles de validité des théorèmes de Liouville, pour plus de détails voir [51], [62], [QS5].

2 Systèmes non-variationnels

Une grande partie de ma recherche est consacrée aux systèmes d’équations aux dérivées partielles elliptiques. Il est essentiel de noter que, de nos jours, la théorie des systèmes est beaucoup moins développée que la théorie des équations scalaires, quand bien même la question de la possibilité d’extension aux systèmes des résultats connus pour une équation a été posée depuis longtemps (voir par exemple Open Problem 4.2 (c) dans le rapport de P.L. Lions [98]). Cela est dû, naturellement, à la structure nettement plus sophistiquée des systèmes, qui implique que de telles extensions peuvent être envisagées seulement pour certaines classes de systèmes.

Cependant, à cause de leur grande importance dans les applications, récemment on observe un intérêt grandissant pour les systèmes elliptiques, ainsi qu’un développement rapide d’outils adaptés à leur étude. J’ai poursuivi un programme, débuté en collaboration avec J. Busca, dédié à l’étude de plusieurs classes de ces systèmes.

2.1 Estimations de type Alexandrov-Bakelman-Pucci et Harnack pour les systèmes

La notion de coercivité est essentielle pour un opérateur elliptique. Comme on l’a déjà vu, elle est équivalente à la positivité de la première valeur propre (ou des premières valeurs propres) ou au fait que l’inégalité d’Alexandrov-Bakelman-Pucci (ABP) soit valable pour cet opérateur.

Le point de départ de l’article [BS2] a ainsi été de tenter de préciser des conditions de coercivité suffisantes, qui soient suffisamment générales, sous lesquelles le principe du maximum ainsi que les estimations elliptiques classiques restent valables pour les systèmes.

Nous considérons des systèmes du type

\{ \begin{matrix}H_{1}(D^{2}u_{1}, Du_{1}, u, x) & = & f_{1}(x) \\ H_{2}(D^{2}u_{2}, Du_{2}, u, x) & = & f_{2}(x) \\ & … \\ H_{n}(D^{2}u_{n}, Du_{n}, u, x) & = & f_{n}(x) \end{matrix}  (12)

dans un domaine borné Ω ⊂ ℝ^{N} ; n, N ≥ 1, où u = (u_{1}, …, u_{n}) et les H_{i} sont des opérateurs elliptiques complètement non-linéaires, comme dans les sections précédentes. L’étude de tels systèmes est motivée par des exemples en théorie des processus de diffusion commutés, en finance, en physique, en biologie et en théorie des jeux, voir [BS2].

Pour obtenir des résultats de type ABP ou Harnack, il y a deux hypothèses inévitables à faire sur la structure du système - il doit être faiblement couplé, c’est-à-dire le couplage ne doit intervenir que dans les termes d’ordre zéro, et coopératif, c’est-à-dire chaque H_{i} doit être croissante par rapport aux variables u_{j}, j ≠ i. Il est très facile de construire des exemples simples de systèmes qui ne satisfont pas l’une de ces hypothèses et pour qui les résultats qui suivent sont faux. Ceci est tout à fait naturel, car même pour des systèmes sous forme divergence il est connu depuis les contre-exemples de De Giorgi que les systèmes généraux n’ont pas des propriétés de régularité (qui s’ensuivent de l’inégalité de Harnack).

Nos résultats sont nouveaux même pour les systèmes linéaires, c’est-à-dire de la forme Lu + C(x)u, où L est une matrice diagonale d’opérateurs linéaires et C(x) est une matrice de fonctions bornées mesurables. En réalité, les théorèmes ci-dessous sont nouveaux même dans le cas très particulier d’une équation avec un opérateur polyharmonique, par exemple (−Δ)^{n}u + c(x)u = f(x) (qui correspond au système Δu_{i} + u_{i+1} = 0, Δu_{n} + cu_{1} = f). La validité des estimations d’Alexandrov-Bakelman-Pucci et de Harnack pour ces équations était une question ouverte depuis longtemps, voir Section 15 dans [BS2].

Voici les hypothèses exactes que nous faisons sur (12). Nous supposons que les opérateurs H_{1}, …, H_{n}, définis sur S_{N}(ℝ) × ℝ^{N} × ℝ^{n} × Ω (S_{N}(ℝ) désignant l’espace des matrices symétriques N × N) vérifient les hypothèses suivantes. Tout d’abord, il existe des constantes α_{0} ∈ (0, 1), γ ≥ 0 et des fonctions mesurables c_{i}, g_{i} : ℝ^{n} × Ω → ℝ, i = 1, …, n, telles que (H0) c_{i}(u, x), g_{i}(u, x) sont globalement Lipschitziennes en u ∈ ℝ^{n}, unifor-

mément en x ∈ Ω \ N pour un ensemble de mesure nulle N ⊂ Ω, avec une constante de Lipschitz ν (au sens où les normes l_{1} de ∇_{u}c_{i} et ∇_{u}g_{i} sont bornées par ν) ;

(H1) H_{i}(M, p, u, x) ≤ M_{λ,Λ}^{+}(M) + γ|p| + c_{i}(u, x), i = 1, …, n;

(H2) H_{i}(M, p, u, x) ≥ M_{λ,Λ}^{−}(M) − γ|p| + g_{i}(u, x), i = 1, …, n,

pour tout (M, p, u) ∈ S_{N}(ℝ)×ℝ^{N}×ℝ^{n} et presque tout x ∈ Ω. Sans restreindre la généralité, on suppose c_{i}(0, x) = g_{i}(0, x) = 0.

Nous faisons ensuite l’hypothèse que le système (12) est coopératif (ou quasi-monotone), dans le sens suivant : pour tout u, v ∈ ℝ^{n} tel que u ≥ v composante par composante et tout j ∈ {1, …, n} tel que u_{j} = v_{j}, on a (H3) c_{j}(u, x) ≥ c_{j}(v, x) et g_{j}(u, x) ≥ g_{j}(v, x) p.p. x ∈ Ω.

Nous nous situons dans le cadre des solutions de L^{N}−viscosité de (12), voir [40], [BS2]. On rappelle que toute solution forte de (12), c’est-à-dire tout u ∈ W_{loc}^{2,N}(Ω, ℝ^{n}) vérifiant (12) presque partout est solution de L^{N}−viscosité.

Adoptons les notations

(v ∨ w)(x) = max{v(x), w(x)}, (v ∧ w)(x) = min{v(x), w(x)},
v^{+}(x) = max{v(x), 0},  v^{−}(x)  = max{−v(x), 0},

pour toutes fonctions v et w.

Nous supposons ensuite que le second membre de (12) vérifie (H4) f_{i} ∈ L^{N}(Ω), i = 1, …, n, et nous posons f = f_{1} ∨ … ∨ f_{n}.

Sous ces hypothèses, nous établissons une estimation de type Alexandrov-Bakelman-Pucci (ABP). Comme on a déjà eu l’occasion de le remarquer, cette estimation a été le point de départ de la théorie des équations scalaires sous forme non-divergence, développée par Krylov et Safonov vers la fin des années 1970. Il s’agit ici de la première fois où une telle estimation apparaît dans le cas d’un système.

Théorème 11 Sous les hypothèses (H0), (H1), (H3) et (H4) ci-dessus, supposons que u ∈ C(\overline{Ω}, ℝ^{n}) vérifie

\{ \begin{matrix}H_{i}(D^{2}u_{i}, Du_{i}, u_{1}, …, u_{n}, x) & ≥ & −f_{i}(x) dans Ω \\ i & = & 1, …, n, \end{matrix}  (13)

Supposons de plus que l’une des deux conditions suivantes soit vérifiée : (H5) pour tout i = 1, …, n

∑_{j=1}^{n} \frac{∂c_{i}}{∂u_{j}} (u, x) ≤ 0 p.p. dans ℝ^{n} × Ω  (14)

ou (H6) si nous posons

\overline{m}_{ij} = sup_{(u,x)∈ℝ^{n}×Ω} ess \frac{∂c_{i}}{∂u_{j}} (u, x)

(\overline{m}_{ij} ≤ ν < ∞) alors la matrice \overline{M} = (\overline{m}_{ij})_{i,j=1}^{n} est semi-définie néga-

tive, c’est-à-dire (\overline{M}ξ, ξ) ≤ 0 pour tout ξ ∈ ℝ^{n}.

Alors l’inégalité suivante est valide :

sup_{Ω}(u_{1} ∨ … ∨ u_{n}) ≤ C (sup_{∂Ω}(u_{1}^{+} ∨ … ∨ u_{n}^{+}) + ∥f^{+}∥_{L^{N} (Ω)}) , (15)

la constante C ne dépendant que de N, λ, Λ, γ, ν, et diam Ω (lorsque (H5) est vérifié C multiplie seulement le terme en f).

Remarque. Notons qu’aucune des deux hypothèses (H5) ou (H6) n’implique l’autre, comme le montrent les deux contre-exemples suivants (avec n = 2 et u = (u_{1}, u_{2}))

\{ \begin{matrix}c_{1}^{(1)}(u, x) & = & a(x)^{−1}(−u_{1} + u_{2}) \\ c_{2}^{(1)}(u, x) & = & a(x)(u_{1} − u_{2}), \end{matrix} \{ \begin{matrix}c_{1}^{(2)}(u, x) & = & −2u_{1} + 3arctan u_{2} \\ c_{2}^{(2)}(u, x) & = & arctan u_{1} − 2u_{2}, \end{matrix}

où a(x) est une fonction continue surjective de Ω dans [\frac{1}{2}, 2]. On vérifie par

un calcul simple que le premier couple de coefficients vérifie l’hypothèse (H5) mais pas (H6), et inversement pour le second.

On pourrait s’attendre que (H5) et (H6) puissent être remplacées par

l’hypothèse naturelle et plus générale que la matrice (\frac{∂c_{i}}{∂u_{j}} (u, x)) est semi-

définie négative pour chaque u, x. Cependant, il s’avère qu’en général le principe de maximum est faux sous cette seule hypothèse, même pour un système linéaire. Nous donnons un contre-exemple dans [BS2].

Il est donc très délicat de déterminer une condition nécessaire et suffisante de coercivité pour les systèmes. Nous donnons dans [BS2] des résultats partiels dans cette direction sous différentes hypothèses de structure. Une réponse complète – du point de vue théorique – à cette question pour les systèmes d’équations de Hamilton-Jacobi-Bellman est apportée dans le travail récent [QS4] (voir la section suivante).

Nos démonstrations reposent principalement sur des techniques de solutions de L^{N}-viscosité, qui fournissent un cadre adapté aux principes de comparaison que nous utilisons. Nous montrons, à l’aide d’enveloppes bien choisies, que nous pouvons nous ramener à des inégalités d’ABP et de Harnack pour équations scalaires contenant des opérateurs extrêmaux.

Nous démontrons de plus dans [BS2] des estimations pour les sous-solu-tions (principe du maximum local), ainsi que des inégalités de type Harnack. Le théorème suivant est une illustration de ces résultats. On y utilisera la notion de couplage complet, qui sera explicitée dans la section suivante, voir aussi [BS2]. Dire qu’un système est complètement couplé signifie essentiellement qu’il ne peut être divisé en deux sous-systèmes dont l’un ne dépend pas de l’autre.

Théorème 12 Supposons (H0)-(H4) et soit u ≥ 0 une solution de (12) dans une boule B_{3R} ⊂ Ω. Supposons en plus que le système (12) est complètement couplé dans B_{R}. Alors il existe une fonction Φ positive et continue, dependant de N, n, λ, Λ, γR, νR^{2} et du couplage, telle que Φ(0, 0) = 0 et

sup_{B_{R}} u_{1} ∨ … ∨ u_{n} ≤ Φ (inf_{B_{R}} u_{1} ∧ … ∧ u_{n}, R∥f∥_{L^{N} (B_{3R})}) .  (16)

Remarque 1. On donne une expression explicite pour Φ dans la preuve du théorème. Dans le cas particulier d’un système linéaire Φ(t, s) = C_{1}t + C_{2}s. Remarque 2. Avant notre travail des inégalités de Harnack pour systèmes n’étaient connues que dans certains cas très particuliers de systèmes linéaires sans second membre (f_{i} = 0) et des coefficients réguliers, voir [10], [46], [BS2].

Bien entendu, l’inégalité de Harnack implique des estimations Hölderiennes pour les solutions de (12).

Par la suite nous verrons plusieurs situations, en particulier dans l’étude de l’existence et des propriétés qualitatives des solutions de systèmes elliptiques, où les inégalités ABP et Harnack que nous venons d’énoncer jouent un rôle essentiel.

2.2 Valeurs propres pour les systèmes complètement non-linéaires

Dans l’article récent [QS4] nous étendons les résultats sur l’existence de valeurs propres, sur la validité de l’inégalité ABP et sur la solvabilité du problème du Dirichlet que nous avons décrit dans le Chapitre 1 aux systèmes d’équations de Hamilton-Jacobi-Bellman et d’Isaac. Notre motivation vient de l’article bien connu de Ishii et Koike [80], où la théorie générale des solutions de viscosité a été appliquée pour obtenir des résultats d’existence et d’unicité pour des systèmes du type (12). Dans cet article les auteurs ont donné des hypothèses sous lesquelles le système satisfait le principe de comparaison (qui implique le résultat d’unicité), et ils ont montré que la méthode de Perron permet d’obtenir une solution du système, à condition de disposer d’une sous-solution et d’une sur-solution ordonnées. Notre objectif a été, d’une part, d’étendre le résultat d’unicité dans [80] autant que possible dans le cas uniformément elliptique, c’est-à-dire, de donner une condition nécessaire et suffisante pour que le système satisfasse le principe de comparaison, et d’autre part, de donner des hypothèses sous lesquelles il admet des sous-et sur-solutions ordonnés (et donc des solutions).

Supposons pour simplifier les énoncés que les opérateurs H_{k} dans (12) sont des opérateurs HJB

F_{k} = sup_{α∈A_{k}} {∑_{i,j=1}^{N} a_{ij,k}^{α}(x)∂_{ij}u_{k} + ∑_{i=1}^{N} b_{i,k}^{α}(x)∂_{i}u_{k} + ∑_{j=1}^{n} c_{j,k}^{α}(x)u_{j}} . (17)

où les matrices (a_{ij,k}^{α}) sont continues and uniformément définies positives, et b_{i,k}^{α}, c_{i,k}^{α} ∈ L^{∞}(ℝ^{N}), c_{j,k}^{α} ≥ 0 pour j ≠ k, pour tout α, i, j, k.

On note c_{ij}(x) := F_{i}(0, 0, e_{j}, x), où e_{j} ∈ ℝ^{n} est le vecteur unitaire dont la j-ème coordonnée vaut 1 et toutes les autres coordonnées sont nulles. On pose C(x) := (c_{ij}(x))_{i,j=1}^{n}. Alors on peut aisément vérifier que l’on peut permuter les indices des équations et des fonctions u_{i} dans le système, de telle façon que la matrice C(x) soit triangulaire par blocks, chaque block sur la diagonale étant non-réductible (une matrice n × n peut avoir entre 1 et n blocks). On rappelle qu’une matrice n × n est dite non-réductible si pour tous I, J ⊂ {1, …, n} tels que I ∩J = ∅ et I ∪J = {1, …, n}, il existe i_{0} ∈ I et j_{0} ∈ J pour lesquels

meas{x ∈ Ω | c_{i_{0}j_{0}}(x) > 0} > 0.  (18)

Quand (18) est vérifiée on écrira c_{i_{0}j_{0}} ≢ 0 in Ω. Lorsque C est elle-même non-réductible, on dit que (12) est complètement couplé.

Plus précisément, on peut toujours permuter les indices de manière à ce que l’on ait C = (C_{kl})_{k,l=1}^{m} , où 1 ≤ m ≤ n, C_{kl} sont des matrices t_{k} × t_{l}

pour certains t_{k} ≤ n avec ∑_{k=1}^{m} t_{k} = n, C_{kk} est une matrice non-réductible,

k = 1, …, m, et C_{kl} ≡ 0 dans Ω, pour tous k, l ∈ {1, …, m} avec k < l. On note que m = 1 veut dire que C est non-réductible, tandis que m = n

signifie que C est une matrice triangulaire. On pose s_{0} = 0, s_{k} = ∑_{j=1}^{k} t_{j}, et

S_{k} = {s_{k−1} + 1, …, s_{k}}.

Par exemple, toute matrice 1×1 est non-réductible. Modulo permutations des indices, l’ensemble des matrices 2×2 peut être divisés en deux : matrices

de la forme (\begin{matrix}∗ & a \\ b & ∗ \end{matrix}) et matrices de la forme (\begin{matrix}∗ & 0 \\ ∗ & ∗ \end{matrix}), où a, b ≢ 0 et ∗ désigne

une fonction quelconque. La première de ces deux matrices est non-réductible, la deuxième ne l’est pas et a deux blocks 1 × 1. De la même manière, modulo permutations des indices, il y a quatre types de matrices 3 × 3

(\begin{matrix}∗ & a & ∗ \\ ∗ & ∗ & b \\ c & ∗ & ∗ \end{matrix}) , (\begin{matrix}∗ & a & 0 \\ b & ∗ & c \\ 0 & d & ∗ \end{matrix}) , (\begin{matrix}∗ & a & 0 \\ b & ∗ & 0 \\ ∗ & ∗ & ∗ \end{matrix}) , (\begin{matrix}∗ & 0 & 0 \\ ∗ & ∗ & 0 \\ ∗ & ∗ & ∗ \end{matrix}) , a, b, c, d ≢ 0.

Les deux premières matrices sont non-réductibles, la troisième a un block non-réductible 2 × 2 et un block non-réductible 1 × 1, alors que la quatrième matrice a trois blocks 1 × 1.

On notera avec F[ψ] le vecteur (F_{i}(D^{2}ψ_{i}, ψ_{i}, ψ, x))_{i=1}^{n}, pour toute fonction ψ, et

λ_{1}^{+} = λ_{1}^{+}(F, Ω) = sup{λ ∈ ℝ | il existe ψ ∈ C(Ω, ℝ^{n}) telle que
ψ > 0 et F[ψ] + λψ ≤ 0 dans Ω}.
λ_{1}^{−} = λ_{1}^{−}(F, Ω) = sup{λ ∈ ℝ | il existe ψ ∈ C(Ω, ℝ^{n}) telle que
ψ < 0 et F[ψ] + λψ ≥ 0 dans Ω}.

Théorème 13 On suppose que C = (F_{i}(0, 0, e_{j}, x))_{i,j=1}^{n} est non-réductible. Alors il existe des vecteurs φ_{1}^{+}, φ_{1}^{−} ∈ W_{loc}^{2,q}(Ω, ℝ^{n}) ∩ C(\overline{Ω}, ℝ^{n}), ∀q < ∞, tels que

F[φ_{1}^{±}] + λ_{1}^{±}φ_{1}^{±} = 0,  ±φ_{1} > 0  dans Ω
φ_{1} = 0  sur ∂Ω.

Les nombres λ_{1}^{+} et λ_{1}^{−} ont les mêmes propriétés que dans le cas n = 1 (voir sections 1.1-1.2)

On déduit de ce théorème qu’à tout système (12) (pas forcément complètement couplé) on peut associer des nombres λ_{11}^{±}, …, λ_{1m}^{±}, où m est le nombre de blocks non-réductibles qui apparaissent dans la décomposition de C, et λ_{1k}^{±} est la valeur propre (donnée par le Théorème 13) du sous-système contenant seulement les opérateurs F_{i} avec indices i ∈ S_{k}, dans lesquels tous les u_{j}, j ∉ S_{k}, sont remplacés par zéro. Alors la positivité de ces nombres est une condition nécessaire et suffisante pour que l’opérateur vectoriel F satisfasse le principe de comparaison et l’inégalité d’Alexandrov-Bakelman-Pucci. De plus, sous cette condition le problème de Dirichlet vectoriel F[u] = f ∈ L^{N} possède toujours une solution.

La différence entre les inégalités ABP montrés dans [QS3] et [QS4] réside dans le fait que dans le premier cas (Théorème 11) on considère des systèmes plus généraux et on donne des conditions explicites sur la structure du système, suffisantes pour que le système vérifié ABP, alors que dans le deuxième on considère une classe de systèmes plus restreinte (de type HJB) et on obtient des résultats optimaux, c’est-à dire une condition nécessaire et suffisante - mais moins explicite - pour la validité de l’inégalité ABP.

On remarque que l’on a établi plusieurs estimations sur les valeurs propres en fonction des coefficients dans F_{i} et du domaine, qui permettent de vérifier la condition de positivité des valeurs propres en pratique.

Les preuves des résultats dans [QS4] combinent les techniques de [QS1]- [QS3] pour le cas scalaire avec les inégalités ABP et Harnack pour les systèmes, décrites dans la Section 2.1. On remarque qu’un cas particulier du Théorème 13, concernant des systèmes linéaires, apparaît déjà dans [BS2], Sections 13 et 14.

Dans les sections suivantes (2.3-2.5) nous décrivons un groupe de travaux sur la solvabilité d’équations et de systèmes d’équations elliptiques sous forme non-divergence, faisant intervenir des méthodes de degré topologique.

2.3 Notions de sous-linéarité et de sur-linéarité pour un système général et applications

Dans les articles [S6] et [S9] j’ai étudié des systèmes non-variationnels de la forme

\{ \begin{matrix}−L_{i}u_{i} & = & f_{i}(x, u_{1}, …, u_{n}) & dans & Ω, i = 1, …, n \\ u_{i} & ≥ & 0 & dans & Ω, i = 1, …, n \\ u_{i} & = & 0 & sur & ∂Ω, i = 1, …, n, \end{matrix}  (19)

où n ∈ ℕ, f_{i} : ℝ_{+} → ℝ_{+} sont des fonctions localement Lipschitziennes et les opérateurs linéaires L_{k} = ∑_{i,j=1}^{N} a_{ij}^{(k)}(x)∂_{ij} + ∑_{i=1}^{N} b_{i}^{(k)}(x)∂_{i} + c^{(k)}(x) sont uniformément elliptiques avec des coefficients bornés et premières valeurs propres positives. L’objectif est de donner des hypothèses générales sur la structure du système qui rend possible l’utilisation de méthodes topologiques (degré de Leray-Schauder, théorie de Krasnoselskii) pour établir l’existence de solutions non-triviales de (19).

Les systèmes (19) apparaissent dans un grand nombre de modèles provenant de la physique, de la biologie, de la théorie des probabilités et du contrôle stochastique, voir [S9] pour plus de détails et une liste de références.

Rappelons tout d’abord que l’équation scalaire

\{ \begin{matrix}−Δu & = & f(u) & dans & Ω \\ u & = & 0 & sur & ∂Ω, \end{matrix}  (20)

est appelée sous-linéaire si lim inf_{u→0} \frac{f(u)}{u} > λ_{1} > lim sup_{u→∞} \frac{f(u)}{u}, ou, de manière

équivalente, s’il existe a, b, r, R > 0 tels que

b > λ_{1} > a, f(u) ≥ bu pour u ≤ r, f(u) ≤ au pour u ≥ R. (21)

Inversement, (20) est dite sur-linéaire si lim sup_{u→0} \frac{f(u)}{u} < λ_{1} < lim inf_{u→∞} \frac{f(u)}{u},

c’est-à-dire, s’il existe a, b, r, R > 0 tels que

a > λ_{1} > b, f(u) ≤ bu pour u ≤ r, f(u) ≥ au pour u ≥ R. (22)

Il est bien connu, depuis les travaux fondateurs de Leray-Schauder, Krasnoselskii, Amann, Nussbaum, que la théorie du degré topologique permet de montrer l’existence de solutions positives pour les équations sous-linéaires. Cette théorie s’applique aussi bien aux équations sur-linéaires, mais à condition de disposer d’estimations à priori pour ces dernières, c’est-à-dire, d’être en mesure de montrer que toutes les solutions éventuelles de l’équation sont bornées par une constante que ne dépend que de l’opérateur elliptique et du domaine Ω.

On pourrait ainsi se douter qu’il serait possible d’étendre les définitions (21) et (22) aux systèmes, simplement en remplaçant a et b par des matrices. Dans ce cas λ_{1} serait remplacée par la matrice diagonale Λ_{1} contenant les valeurs propres principales des opérateurs L_{i}. Or, il s’avère qu’alors il n’est pas du tout évident quel sens il faut donner aux inégalités b > λ_{1} > a, a > λ_{1} > b. Si l’on utilise la notion naturelle de comparaison entre deux matrices (A > B si A − B est définie positive), on se rend vite compte qu’aucun système intéressant ne pourrait satisfaire ces hypothèses.

J’ai trouvé que l’on peut en effet étendre (21) and (22) aux systèmes, à l’aide de la définition suivante.

A ≺ B ⟺ ∀ U ∈ ℝ^{n} : \{ \begin{matrix}BU & ≤ & AU \\ U & ≥ & 0 \end{matrix}  implique U = 0. (23)

Géométriquement, si B −A est invertible, (23) veut dire que A ≺ B si le cône fermé généré par les colonnes de B − A n’intersecte pas le hyper-quadrant {U ≤ 0}, sauf à l’origine.

Alors on montre le résultat suivant.

Théorème 14 Supposons que L_{1} ≡ … ≡ L_{n} et soit (cas sous-linéaire) (H_{0}) il existe r > 0 et une matrice B ∈ M_{n}(ℝ) tels que pour x ∈ \overline{Ω}

B ≻ Λ_{1}  et  F (x, U) ≥ B U  si ∥U∥ ≤ r, U ∈ ℝ_{+}^{n},

(H_{∞}) il existe k > 0 et une matrice A ∈ M_{n}(ℝ) tels que pour x ∈ \overline{Ω}

A ≺ Λ_{1}  et  F (x, U) ≤ A U + k1  pour tout U ∈ ℝ_{+}^{n},

soit (cas sur-linéaire) (H^{0}) il existe r > 0 et une matrice B ∈ M_{n}(ℝ) tels que pour x ∈ \overline{Ω}

B ≺ Λ_{1}  et  F (x, U) ≤ B U  si ∥U∥ ≤ r, U ∈ ℝ_{+}^{n},

(H^{∞}) il existe R > 0 et une matrice A ∈ M_{n}(ℝ) tels que pour x ∈ \overline{Ω}

A ≻ Λ_{1}  et  F (x, U) ≥ A U  si min{u_{1}, …, u_{n}} ≥ R,

(APB) pour tout t_{0} ≥ 0 il existe M > 0, dependant de t_{0}, Ω, n, N, L, f_{i}, tel que max_{1≤i≤n} sup_{x∈Ω} u_{i}(x) ≤ M pour tout t ∈ [0, t_{0}] et toute solution de (19)

avec f_{i}(u_{1}, …, u_{n}) remplacée par f_{i}(u_{1} + t, …, u_{n} + t).

Alors (19) a une solution positive, avec u_{k} > 0 dans Ω, pour au moins un k ∈ {1, …, n}. Si en plus le système est complètement couplé alors u_{k} > 0 pour tout k ∈ {1, …, n}.

Remarque 1. Ce théorème n’est valide que si les opérateurs elliptiques coincident. Ceci est dû au fait qu’un système avec des opérateurs sous forme non-divergence distincts ne satisfait pas le principe de maximum sous des hypothèses naturelles de structure (voir Section 2.1). En réalité, lorsque le système est gouverné par deux ou plus opérateurs distincts, la coercivité du système dépend de l’opérateur HJB min_{i} L_{i}. Or cet opérateur a deux valeurs propres distinctes et la plus petite d’entre elles peut être strictement plus petite que chacune des valeurs propres des L_{i} (nous avons observé ce fait assez surprenant dans [QS3], voir la section 1.1). Remarque 2. Nous disposons aussi d’un théorème qui s’applique à des systèmes aux opérateurs distincts (Théorème 4.1 dans [S9]). Dans ce résultat nous sommes obligés de supposer que le système est coopératif pour ∥u∥ proche de zéro et de l’infini. Alors par exemple (H_{0}) est remplacée par F ≥ B(x)U, où B(x) est une matrice de fonctions bornées dont tous les éléments hors-diagonale sont positifs et on exige que λ_{1}(L + B(x), Ω) < 0, où λ_{1} est la première valeur propre de l’opérateur matriciel, dont l’existence a été démontrée dans [BS2] et [QS4]. Remarque 3. Dans (H^{∞}) on demande que l’inégalité soit vérifiée seulement par les vecteurs dont toutes les coordonnées sont supérieures à R. Ceci est important dans les applications. Remarque 4. Lorsque les fonctions f_{i} ont une croissance au plus exponentielle en u_{1}, …, u_{n}, il suffit de supposer que l’hypothèse (AP B) est vérifiée avec t_{0} = 0.

Le Théorème 14 a été démontré dans [S6] pour L = L_{1} = Δ. Dans ce cas on peut utiliser des multiplications par des fonctions test et intégrer les équations. J’ai récemment étudié le cas général dans [S9]. La preuve est délicate et utilise des outils classiques d’optimisation comme le lemme de Farkas, ce qui est assez rare dans la théorie des EDP elliptiques. On utilise l’inégalité ABP pour les systèmes obtenue dans [BS2], ainsi que son équivalence au principe du maximum.

Le Théorème 14 s’applique à de larges classes de systèmes. Je me contenterai ici d’une application simple, mais particulièrement importante - les équations d’ordre supérieur à 2

(−L)^{m}u = ∑_{i=1}^{m−1} α_{i}(−L)^{m−i}u + f(x, u) dans Ω  (24)
(−L)^{k}u = 0, k ∈ {0, 1, …, m − 1}  sur ∂Ω,  (25)

où α_{1} ∈ ℝ, α_{i} ≥ 0, i = 2, …, m − 1 (si m ≥ 3). Cette équation est de la forme (19) avec f_{i} = u_{i+1}, i = 1, …, m − 1 ; f_{m} = f. Alors on trouve que (24)-(25) se comporte comme une équation sous-linéaire (resp. sur-linéaire) si les limites de f(x, u)/u en zéro et à l’infini se comparent différemment au nombre

λ^{∗} = max {0, λ_{1}^{m} − ∑_{i=1}^{m−1} α_{i}λ_{1}^{m−i}} .

Naturellement, si m = 1 on retrouve λ^{∗} = λ_{1}. A ma connaissance, il s’agit de la première fois où l’on définit des notions de sous-linéarité et de surlinéarité pour des équations aux dérivées partielles d’ordre supérieur. A titre d’exemple, pour l’équation de Paneitz Δ^{2}u + αΔu + au = f(x, u), α, a ∈ ℝ, souvent utilisé en géométrie et dans certains modèles en biologie, on trouve λ^{∗} = (λ_{1}(Δ)^{2} − αλ_{1}(Δ) + a)_{+}.

Il est particulièrement important de savoir résoudre le problème (24)-(25) lorsque f a une croissance polynomiale en u. Spécifiquement, si f ∼ u^{p} avec p > 1 alors le problème est sur-linéaire, du coup nous avons besoin de montrer une estimation à priori pour déduire l’existence d’une solution positive. Le théorème suivant traite de cette question.

Théorème 15 On pose p^{∗} = \frac{N + 2m}{N − 2m} si N > 2m et p^{∗} = ∞ sinon. Suppo-

sons que f dans (24) croisse en u comme une puissance sous-critique, c’està-dire qu’il existe b ∈ C(\overline{Ω}) telle que b > 0 dans \overline{Ω}, et pour un p ∈ (1, p^{∗})

lim_{u→∞} \frac{f(x, u)}{u^{p}} = b(x), pour x ∈ \overline{Ω}.

Alors (24)-(25) vérifié la condition (APB) du Théorème 14.

La démonstration de ce théorème repose sur la technique de "blow-up" et utilise des théorèmes de Liouville non-linéaires. Nous discuterons de ces questions en détail dans la section suivante.

La modélisation des phénomènes naturels nous amène souvent à étudier des équations dans l’espace entier. En me basant sur les théorèmes précédents j’ai obtenu des résultats d’existence pour les systèmes dans ℝ^{N}, illustrés par l’exemple suivant.

Théorème 16 Soient a_{1}, …, a_{n} > 0, et f(u) une fonction croissante localement Lipschitzienne, tels que

lim sup_{u→0} \frac{f(u)}{u} < ∏_{i=1}^{n} a_{i},  lim_{u→∞} \frac{f(u)}{u^{p}} = c > 0,  (26)

pour un c > 0, p ∈ (1, p^{∗}). Alors le système

\{ \begin{matrix}−Δu_{i} + a_{i}u_{i} & = & u_{i+1}, i = 1, …, n − 1, \\ −Δu_{n} + a_{n}u_{n} & = & f(u_{1}), \end{matrix}  (27)

a une solution dans ℝ^{N}, telle que u_{i} > 0 dans ℝ^{N} et u_{i} → 0 lorsque |x| → ∞.

On remarque que plusieurs équations d’ordre supérieur à deux peuvent être factorisées sous la forme (27).

2.4 Estimations à priori et technique de "blow-up"

Comme on l’a expliqué dans la section précédente, les propriétés du degré topologique permettent de montrer qu’un problème sur-linéaire possède des solutions, à condition d’établir des estimations à priori pour ce problème. Nous avons obtenu de telles estimations dans les travaux [FS1], [FS2], [S9].

Un résultat classique de Gidas et Spruck stipule que l’équation −Δu = f(u) admet une estimation à priori pour ses solutions positives, si f est positive et f(t)/t^{p} → c_{0} > 0 lorsque t → ∞, où p est sous-critique, c’est-à-dire p ∈ (1, (N + 2)/(N − 2)). Dans les dernières années il y a eu plusieurs tentatives d’étendre ce résultat aux systèmes, avec nombre de résultats partiels sur la structure du système.

Dans l’article [FS1] nous avons développé une variante de la technique de Gidas-Spruck qui s’applique aux systèmes de deux équations avec une non-linéarité générale

\{ \begin{matrix}−Δu_{1} & = & a(x)u_{1}^{α_{11}} + b(x)u_{2}^{α_{12}} + f_{1}(x)u_{1}^{γ_{11}}u_{2}^{γ_{12}} + h_{1}(x, u_{1}, u_{2}) \\ −Δu_{2} & = & c(x)u_{1}^{α_{21}} + d(x)u_{2}^{α_{22}} + f_{2}(x)u_{1}^{γ_{21}}u_{2}^{γ_{22}} + h_{2}(x, u_{1}, u_{2}), \end{matrix} (28)

où α_{ij} ≥ 0, a(x), b(x), c(x), d(x) ≥ 0 sont continues sur \overline{Ω}, et h_{1}, h_{2} sont des termes d’ordre inférieur, avec

\{ \begin{matrix}lim_{|(u_{1},u_{2})|→∞} (a(x)u_{1}^{α_{11}} + b(x)u_{2}^{α_{12}})^{−1} |h_{1}(x, u_{1}, u_{2})| & = & 0 \\ lim_{|(u_{1},u_{2})|→∞} (c(x)u_{1}^{α_{21}} + d(x)u_{2}^{α_{22}})^{−1} |h_{2}(x, u_{1}, u_{2})| & = & 0, \end{matrix}  (29)

uniformément en x ∈ Ω. Nos résultats unifient et étendent considérablement les résultats précédents sur ce type de systèmes.

On suppose que (28) est sur-linéaire au sens faible, c’est-à-dire

soit α_{11} > 1, α_{22} > 1, soit α_{12}α_{21} > 1.  (30)

Bien entendu, on suppose que les termes avec "croissance croisée" dans (28) ne peuvent être inclus dans h_{i} via l’inégalité de Young, et sont du même ordre que les termes où apparaissent α_{ij}, c’est-à-dire, on a 0 ≤ γ_{ij} ≤ α_{ij}, i, j = 1, 2,

\frac{γ_{11}}{α_{11}} + \frac{γ_{12}}{α_{12}} = 1  et  \frac{γ_{21}}{α_{21}} + \frac{γ_{22}}{α_{22}} = 1.  (31)

Spécifier la croissance maximale s’avère légèrement délicat. La construction géométrique suivante semble le mieux adaptée. On pose β⃗ = (β_{1}, β_{2}), et on introduit les droites suivantes (déterminées uniquement par les valeurs de α_{ij})

\begin{aligned}l_{1} & = & \{β⃗ | β_{1} + 2 − β_{1}α_{11} = 0\} , l_{2} & = & \{β⃗ | β_{2} + 2 − β_{2}α_{22} = 0\} , \\ l_{3} & = & \{β⃗ | β_{1} + 2 − β_{2}α_{12} = 0\} , l_{4} & = & \{β⃗ | β_{2} + 2 − β_{1}α_{21} = 0\} . \end{aligned}

On considère les points β⃗ ≥ 0 sui se trouvent à gauche de ou sur l_{1}, au dessous de ou sur l_{2} (l_{1} et l_{2} peuvent être vides, alors elles n’introduisent pas de restriction), au dessous de ou sur l_{3}, et au dessus de ou sur l_{4}. On appelle ces points admissibles (voir Figure 1).

Cette notion d’admissibilité provient de l’application de la méthode classique de blow-up de Gidas et Spruck au système (28). Si l’on prend un point admissible comme paramètre dans le blow-up, alors nous sommes en mesure de passer à la limite et d’obtenir une solution non-triviale d’un système dans l’espace entier ou dans un demi-espace (voir [FS1], Section 2).

Pour faciliter la compréhension des définitions suivantes, on va remarquer ici que si l’on pose (β′_{1}, β′_{2}) = l_{1}∩l_{2} (au cas α_{11}, α_{22} > 1) et (β′′_{1}, β′′_{2}) = l_{3}∩l_{4} (au cas α_{12}α_{21} > 1), alors les équations de Emden-Fowler −Δu_{i} = u_{i}^{α_{ii}} sont souscritiques si β′_{i} > \frac{N−2}{2}, tandis que le système de Lane-Emden −Δu_{1} = u_{2}^{α_{12}}, −Δu_{2} = u_{1}^{α_{21}} est sous-critique si β′′_{1} + β′′_{2} > N − 2. En réalité, la dernière hypothèse équivaut à dire que α_{12}, α_{21} sont sous "l’hyperbole critique", qui est la ligne séparant les valeurs des exposants pour lesquelles le système de Lane-Emden a un comportement sous- ou sur-critique (voir Chapitre 3.3 où nous avons décrit l’hyperbole critique).

On sépare les systèmes (28) en trois classes, déterminées par les valeurs de α_{ij}. Dans chaque cas on fait un choix différent de (β_{1}, β_{2}). Cas A. L’intersection de l_{1} et l_{2} est admissible. Alors on pose (β_{1}^{0}, β_{2}^{0}) =

l_{1}∩l_{2}. Dans ce cas on suppose que a(x) et d(x) sont strictement positives sur \overline{Ω}.

Fig. 1 – Les couples admissibles (β_{1}, β_{2}) se trouvent à gauche ou sur l_{1}, au dessous de ou sur l_{2}, au dessous de ou sur l_{3}, et au dessus de ou sur l_{4}.

Cas B. L’intersection de l_{3} et l_{4} est admissible. Alors on pose (β_{1}^{0}, β_{2}^{0}) = l_{3}∩l_{4}. Dans ce cas on suppose que b(x) et c(x) sont strictement positives sur \overline{Ω} et que α_{12}, α_{21} ≥ 1.

Cas C. Ni l_{1} ∩ l_{2} ni l_{3} ∩ l_{4} n’est admissible. Alors soit l_{1} ∩ l_{3} soit l_{2} ∩ l_{4} est admissible et on prend ce point comme (β_{1}^{0}, β_{2}^{0}). Dans ce cas on suppose que b(x) (resp. c(x)) est strictement positive sur \overline{Ω}.

Alors on montre le théorème suivant.

Théorème 17 On suppose que (28) satisfait les conditions ci-dessus, et que le point (β_{1}^{0}, β_{2}^{0}) choisi ci-dessus vérifie

min \{β_{1}^{0}, β_{2}^{0}\} > \frac{N − 2}{2}  ou  max \{β_{1}^{0}, β_{2}^{0}\} > N − 2.  (32)

Alors (28) admet des estimations à priori pour ses solutions positives, c’està-dire, chaque couple de solutions positives classiques de (28) est borné dans la norme L^{∞} par une constante qui dépend seulement de α_{ij}, des normes L^{∞} des coefficients du système et du domaine.

On montre ce théorème en raisonnant par l’absurde. S’il existe une suite de solutions qui n’est pas bornée, en faisant un changement de fonctions et de variable du type blow-up, on montre qu’un système du type

\{ \begin{matrix}−Δv_{1} & = & a_{0}v_{1}^{α_{11}} + b_{0}v_{2}^{α_{12}} + c_{1}v_{1}^{γ_{11}}v_{2}^{γ_{12}} \\ −Δv_{2} & = & c_{0}v_{1}^{α_{21}} + d_{0}v_{2}^{α_{22}} + c_{2}v_{1}^{γ_{21}}v_{2}^{γ_{22}} \\ u, v & > & 0 \end{matrix}  dans G,  (33)

où G = ℝ^{N} ou G = ℝ_{+}^{N} = {x_{N} > 0} a une solution. Noter que certains coefficients dans ce système peuvent être nuls mais le choix de β_{1}, β_{2} que l’on a fait garantit qu’au moins deux de ces coefficients sont strictement positifs. Alors, si l’on dispose d’un théorème de type Liouville pour (33), c’est-à-dire si l’on sait qu’un tel système n’a pas de solutions, on obtient une contradiction.

Une grande partie de l’article [FS1] est consacrée aux théorèmes de Liouville. Nous avons montré que tout système du type (33) qui s’obtient comme limite d’un système (28) après une procedure de blow-up, n’admet de solutions bornées ni dans ℝ^{N}, ni dans ℝ_{+}^{N} avec condition aux bord de Dirichlet.

On démontre les résultats dans l’espace entier en utilisant un changement de variable logarithmique de type Emden-Fowler, qui nous ramène à un problème posé dans un cylindre, et en utilisant un résultat de monotonie dans les cylindres, inspiré par [34].

La preuve des résultats de non-existence dans un demi-espace est assez délicate. Nos résultats sont nouveaux même pour le système de Lane-Emden. On utilise les théorèmes de monotonie de la section 4.5 pour montrer que toute solution positive dans un demi-espace {x_{N} > 0} est strictement monotone par rapport à x_{N} et ensuite on passe à la limite lorsque x_{N} → ∞. On montre que la fonction limite est une solution du même système, mais dans l’espace entier à N − 1 dimensions, ce qui permet d’utiliser les théorèmes sur l’espace entier qu’on a déjà démontrés.

2.5 Le problème d’Ambrosetti-Prodi

Un problème classique dans la théorie des équations elliptiques, introduit par Ambrosetti et Prodi, concerne l’existence et la multiplicité de solutions du problème

\{ \begin{matrix}−Lu & = & f(x, u) + g(x) & in & Ω \\ u & = & 0 & on & ∂Ω, \end{matrix}  (34)

où L est un opérateur linéaire uniformément elliptique avec première valeur propre λ_{1} = λ_{1}(L, Ω) > 0, et

lim sup_{s→−∞} \frac{f(x, s)}{s} ≤ a′ < λ_{1}(L, Ω) < b′ ≤ lim inf_{s→∞} \frac{f(x, s)}{s}.  (35)

Un résultat typique dans ce cadre affirme : si l’on décompose g comme g = tφ_{1} + h (−Lφ_{1} = λ_{1}φ_{1}), alors il existe t^{∗} = t^{∗}(h) ∈ ℝ tel que (34) a au moins deux solutions si t < t^{∗}, au moins une solution si t = t^{∗}, et aucune solution si t > t^{∗}.

L’équation (34) a été très étudiée lorsque f a une croissance linéaire ou lorsque le problème est variationnel, c’est-à-dire, L est sous forme divergence, voir [52], [68]. Nous nous sommes proposés d’étudier (34) pour un opérateur général et une non-linéarité de croissance polynomiale. Il s’avère que dans ce cas les méthodes habituelles ne fonctionnent pas, et quelques idées nouvelles sont nécessaires, comme nous l’expliquerons par la suite.

De plus, nous avons considéré le problème d’Ambrosetti-Prodi dans le cas plus général lorsque (34) est un système, c’est-à-dire u, f, g sont des vecteurs. Dans ce cas les conditions de croissance sur f sont les mêmes que dans la section précédente. Comme notre résultat est nouveau même pour une équation scalaire, nous nous contenterons de l’énoncer ici dans ce cas seulement, par souci de clarté.

Théorème 18 On suppose que (35) est vérifiée et qu’il existe une fonction bornée a(x), positive sur \overline{Ω}, telle que pour tout x ∈ \overline{Ω}

lim_{s→∞} \frac{f(x, s)}{s^{p}} = a(x), pour un p ∈ (1 , \frac{N + 2}{N − 2}) .  (36)

Alors il existe t^{∗} = t^{∗}(h) ∈ ℝ tel que (34) a au moins deux solutions si t < t^{∗}, au moins une solution si t = t^{∗}, et aucune solution si t > t^{∗}.

Antérieurement ce résultat était connu seulement pour p appartenant à l’intervalle (1, (N +1)/(N −1)), avec des conditions plus fortes sur l’opérateur L, voir la discussion dans [FS2].

La principale difficulté dans la preuve de ce théorème est d’obtenir une estimation à priori sur u et t, c’est-à-dire de montrer que (34) n’a pas de solutions si t est supérieur à une constante qui ne dépend que de L et de Ω, et que toutes les solutions éventuelles sont bornées par une constante qui ne dépend que de L, de Ω et d’une borne inférieure sur t. Lorsque l’opérateur est sous forme divergence, ces deux questions peuvent être traitées séparément. Dans ce cas la borne sur t est facile à obtenir, simplement en utilisant φ_{1} comme fonction test.

Dans le cas non-divergence on montre d’abord que la partie négative de chaque solution est une solution de viscosité d’une équation Lu^{−} ≥ −C d’où on déduit une borne uniforme sur u^{−}, par l’inégalité de Alexandrov-Bakelman-Pucci.

Ensuite nous faisons usage d’une méthode de "blow-up simultané" sur t et u que nous avons développé. En utilisant un raisonnement par l’absurde on montre que si les solutions (u, t) n’étaient pas uniformément bornées alors l’inégalité

∥u∥ = ∥u^{+}∥ ≤ Ct^{1/p}.  (37)

est vérifiée. Finalement, par un argument faisant intervenir le principe de maximum, on montre que

t ≤ C(1 + ∥u∥).

Cette inégalité et (37) permettent de terminer la preuve des estimations à priori.

Rappelons enfin les résultats de la section 1.2 qui impliquent que les résultats de type Ambrosetti-Prodi sont liés à la solvabilité du problème de Dirichlet pour des opérateurs complètement non-linéaires dont les deux valeurs propres principales ont des signes différents. Dans la section 1.2 nous n’avons considéré que des opérateurs ayant une croissance linéaire en u.

Les techniques décrites plus haut permettent d’étendre les résultats de la section 1.2 aux opérateurs d’Isaacs (et les systèmes de tels opérateurs) avec croissance polynomiale en u. Ceci fait l’objet d’un travail en cours.

3 Méthodes variationnelles pour l’équation et les systèmes de Schrödinger

Dans ce groupe de travaux nous avons étudié l’existence d’ondes stationnaires de l’équation de Schrödinger non-linéaire

iℏ\frac{∂ψ}{∂t} = −\frac{ℏ^{2}}{2m}Δ_{x}ψ + V (x)ψ − f̄(x, ψ),  (38)

où m et ℏ sont des constantes positives (ℏ désigne la constante de Planck qui est de l’ordre de 10^{−33} J/s) , ψ est une fonction de ℝ^{+} × ℝ^{N} à valeurs complexes et V est un potentiel réel, borné inférieurement et continu dans ℝ^{N}. On suppose que f̄(x, sξ) = f(x, s)ξ pour tout s ∈ ℝ, ξ ∈ ℂ avec |ξ| = 1 et une fonction f qui est supposée réelle et continue dans ℝ^{N} – par exemple

f̄(x, η) = a(x)|η|^{p−1}η,

où p > 1 et a est une fonction réelle et continue, ce qui sera notre cas modèle.

On appelle ondes stationnaires de l’équation de Schrödinger les solutions de (38) de la forme

ψ(t, x) = e^{− \frac{iEt}{ℏ}}u(x),  (39)

où E est une constante réelle et u est une fonction réelle – le profil spatial de l’onde. On voit que si ψ résout (38) et s’écrit comme dans (39) alors u satisfait l’équation

−ε^{2}Δu + b(x)u = f(x, u) dans ℝ^{N},  (40)

avec b(x) = V (x) − E et ε = ℏ (pour simplifier nous prenons m = \frac{1}{2}).

Pour montrer l’existence de solutions de (40) on dispose d’une méthode variationnelle, qui consiste à étudier la fonctionnelle

Φ(u) = \frac{1}{2} ∫_{ℝ}^{N} ε^{2}|∇u|^{2} + b(x)u^{2} dx − ∫_{ℝ}^{N} F (x, u) dx,  (41)

définie sur l’espace de Sobolev H^{1}(ℝ^{N}) ; ici F (x, u) désigne une primitive de f(x, u) par rapport à u. Il est bien connu que les points critiques de Φ sont des solutions de (40), autrement dit, (40) est l’équation de Euler-Lagrange de (41).

Une approche variationnelle pour l’équation générale (40) a été développée en 1974, quand A. Ambrosetti et P. Rabinowitz ont démontré le célèbre “théorème du col” (“Mountain Pass Theorem”), dont nous donnons ici l’énoncé.

Théorème 19 (A. Ambrosetti, P. Rabinowitz) Soit Φ ∈ C^{1}(E, ℝ), où E est un espace de Banach et supposons qu’il existe deux points u_{0}, u_{1} ∈ E et un nombre r > 0 tels que

∥u_{0} − u_{1}∥ > r  et  Φ(u_{1}) ≤ Φ(u_{0}) < inf_{∥u−u_{0}∥=r} Φ(u) =: α. (42)

Alors il existe une suite {u_{n}}_{n=1}^{∞} ⊂ E vérifiant Φ(u_{n}) → c et Φ′(u_{n}) → 0 dans E′, où c est une constante telle que c ≥ α. Par conséquent, si Φ satisfait la condition de Palais-Smale alors il existe un point u ∈ E tel que Φ(u) ≥ α et Φ′(u) = 0.

La condition de Palais-Smale (nous écrirons (PS)) est une condition de compacité ; rappelons qu’elle est vérifiée par Φ si chaque suite {u_{n}}_{n=1}^{∞} ⊂ E, telle que {Φ(u_{n})} est borné et {Φ′(u_{n})} tend vers zéro dans E′ contient une sous-suite qui converge dans E.

Considérons le cas d’une non-linéarité sous-critique, c’est-à-dire d’une fonction f qui croît au plus vite comme u^{p} lorsque u → ∞, avec p ∈ (1, (N + 2)/(N − 2)). Il est bien connu qu’alors la condition de Palais-Smale est satisfaite par Φ (donnée par(41)), si l’équation (40) est posée dans un domaine borné régulier Ω ⊂ ℝ^{N}. En revanche, lorsque Ω est non-borné, (PS) n’est pas forcément satisfaite et le théorème du col ne donne pas directement une solution de (40). Ceci est dû au fait que l’injection de Sobolev H^{1}(ℝ^{N}) ↪ L^{p}(ℝ^{N}) n’est pas compacte. Une multitude de travaux ont été entrepris pour remédier à ce problème et, même si dans le cas Ω = ℝ^{N} on est encore loin d’un résultat général, d’importants progrès ont été faits. De manière générale, les auteurs ont utilisé des hypothèses supplémentaires sur l’équation (40) qui permettent de “regagner” une certaine compacité. Par exemple, dans le cas où (40) est invariant par rapport aux rotations, on peut chercher des points critiques de Φ sur le sous-espace de H^{1} formé par les fonctions radiales. L’injection de cet espace dans L^{s}, s ∈ (2, \frac{N+2}{N−2}), est compacte, (PS) est vérifiée sur cet espace. H. Berestycki et P.L. Lions ont donné une réponse quasi-complète à la question de l’existence de solutions radiales dans le cas autonome, avec une non-linéarité très générale :

\{ \begin{matrix}−Δu & = & g(u) & dans & ℝ^{N} \\ u & → & 0 & quand & |x| → ∞. \end{matrix}  (43)

Citons aussi [21], [22], [92] où l’on a étudié le cas radial non-autonome pour (43) (c’est-à-dire, g dépend aussi de |x|) ; plus récemment [19], voir aussi les références dans ce travail.

Dans les articles suivants nous avons étudié deux autres cas où l’on peut résoudre (40) dans un domaine non-borné. Il s’agit de situations où la dépendance de b et f en x ne permet pas d’utiliser des raisonnements de symétrie.

3.1 Etude asymptotique dans le cas d’une équation

Dans l’article [S4] j’ai étudié le cas où la constante de Planck joue le rôle d’un paramètre qui devient arbitrairement petit. Cela a un sens car cette constante est très petite.

Plus précisément, j’ai étudié l’équation

−ℏ^{2}Δu + b(x)u = f(x, u) dans ℝ^{N},  (44)

où ℏ est un petit paramètre, c’est-à-dire, le Laplacien apparaît comme une petite perturbation. Cette équation est bien sur équivalente à −Δu+b(ℏx)u = f(ℏx, u), par le changement x → x/ℏ. On rappelle que b(x) = V (x) − E.

Il est classique de s’intéresser au problème (44) quand ℏ est proche de zéro. Ce problème a été très largement étudié pendant les quinze dernières années. Un grand nombre de travaux ont été consacrés à l’existence de solutions positives de (44) pour ℏ petit, ainsi qu’à l’étude des propriétés de ces solutions. Nous citerons ici [70], [109], [6], [93], où des techniques de réduction à dimension finie et de degré topologique ont été utilisées, ainsi que [114], [125], [55], [56], [76], où l’on a fait usage de méthodes variationnelles.

Dans [114] P. Rabinowitz a montré l’existence d’une solution positive de (44), lorsque ℏ est assez petit, sous l’hypothèse suivante :

inf_{x∈ℝ^{N}} V (x) < lim inf_{|x|→∞} V (x),  (45)

pour tout E tel que

E < inf_{x∈ℝ^{N}} V (x).  (46)

En plus des hypothèses du “théorème du col” (voir (f1)-(f3) ci-dessous) Rabinowitz supposait que la non-linéarité f ne dépend pas de x et satisfait la condition

\frac{z}{s}f(sz) est une fonction croissante en s > 0 pour tout z ∈ ℝ \ \{0\}. (47)

Dans les travaux qui ont suivi [114] les auteurs ont remplacé l’hypothèse globale (45) par des hypothèses locales sur b, plus précisément sur l’existence de points critiques de b. En plus de l’existence de solutions positives de (44), dans ces articles on étudiait le comportement de ces solutions quand ℏ → 0. Un résultat typique dans cette direction est l’inégalité

u_{ℏ}(x) ≤ αe^{− \frac{β}{ℏ}|x−x_{ℏ}|},

où u_{ℏ} est une solution positive de (44), α et β sont des constantes positives et {x_{ℏ}}_{ℏ} est une suite qui converge vers un point critique de V.

Dans tous les travaux que nous avons cités on supposait que la nonlinéarité f ne dépend pas de x et, en plus, qu’elle satisfait (47) (ou des hypothèses encore plus restrictives). Ces restrictions sont dues au fait que les auteurs avaient besoin de connaître les états fondamentaux de l’équation −Δu + u = f(u), que l’on obtient à la limite ℏ → 0.

J’ai proposé une condition globale sur b, liée à (45), mais plus générale que (45), qui permet de lever les restrictions sur f qu’on vient de décrire. Elle garantit l’existence d’une onde stationnaire de (38), pour tout f qui vérifie les hypothèses du théorème du col, plus précisément

(f1) lim_{s→0} \frac{f(x, s)}{s} = 0 pour tout x ∈ ℝ^{N} ;

(f2) Il existe une constante C_{0} > 0 telle que |f(x, s)| ≤ C_{0}(1 + |s|^{p}), pour

un p ∈ (1, \frac{N+2}{N−2}) et pour tous x ∈ ℝ^{N}, s ∈ ℝ; (f3) Il existe une constante μ > 2 telle que sf(x, s) ≥ μF (x, s) > 0, pour

tous x ∈ ℝ^{N}, s ∈ ℝ \ {0}. Pour le potentiel, on suppose que la fonction b(x) = V (x) − inf_{x∈ℝ^{N}} V (x)

satisfait les hypothèses (b1) il existe x_{0} ∈ ℝ^{N} tel que b(x_{0}) = 0 ; (b2) il existe une constante A > 0 telle que l’ensemble de niveau

G_{A} = {x ∈ ℝ^{N} : b(x) < A} a une mesure de Lebesgue finie. Nous avons obtenu le théorème suivant.

Théorème 20 Si (b1)-(b2) et (f1)-(f3) sont satisfaits alors (38) possède une solution stationnaire non-triviale, pour ℏ assez petit.

Il importe de remarquer que, contrairement aux travaux précédents, où l’on supposait toujours (46), dans mon travail la constante E dans (39) est prise égale à inf V. C’est ce choix précis qui nous permet de résoudre (38) sans hypothèse supplémentaire sur f.

Remarquons aussi que je n’ai pas établi de résultat sur le comportement, quand ℏ → 0, des solutions que j’ai obtenues. J’ai émis une conjecture sur ce comportement qui a été démontré ultérieurement par Byeon et Wang [35].

Finalement, sous une hypothèse supplémentaire sur V (x) (vérifiée par exemple par le potentiel classique V (x) = ∑(x_{i} − a_{i})^{2}), j’ai montré que l’on peut choisir à priori la période des ondes stationnaires données par le Théorème 20. A ma connaissance, c’est le premier résultat en ce sens.

Théorème 21 Supposons que les hypothèses du Théorème 20 sont vérifiées et, en plus, que le minimum de V sur ℝ^{N} est égal à zéro. Alors pour tout T > 0 il existe ℏ_{1} = ℏ_{1}(T) > 0 tel que (38) possède une solution stationnaire non-triviale avec période T, pour tout ℏ < ℏ_{1}.

3.2 La condition de Palais-Smale dans un domaine nonborné. Le cas d’une nonlinéarité non-bornée en x

Dans l’article [S2] j’ai étudié la condition de Palais-Smale dans des domaines non-bornés et établis des conditions sur le potentiel qui sont nécessaires et suffisantes pour qu’elle soit vérifiée par Φ. J’ai aussi considéré le cas d’une non-linéarité non-bornée en x. I. Une question naturelle – qui n’a été abordée qu’assez récemment – est si, par analogie avec le cas de domaine borné, on peut donner des conditions sur l’équation et sur le domaine, sous lesquelles Φ satisfait (PS) sur le plus grand espace où elle prend des valeurs finies, à savoir

H = {u | ∥u∥_{H} := ∫_{Ω} |∇u|^{2} + b(x)u^{2} dx < ∞}

(on suppose toujours (f1)-(f3)). Il s’avère que tel est le cas si b est "grand" à l’infini.

En 1993 Rabinowitz a montré que le problème (40) avec ε = 1 a une solution positive si les hypothèses suivantes sont vérifiées :

(r1) inf_{x∈ℝ^{N}}b(x) > 0, (r2) lim_{|x|→∞}b(x) = ∞.

On prouve que dans ce cas Φ satisfait (PS) (voir [47] et [108]). Un résultat un peu plus général dans cette direction appartient à T. Bartsch et Z. Wang ([20]) qui ont montré que Φ satisfait (PS) si l’on remplace (r2) par (bw) |Ω_{M}| < ∞ pour tout M > 0, où |·| désigne le mesure de Lebesgue dans ℝ^{N} et Ω_{M} = {x ∈ Ω | b(x) < M} (noter que b(x) → ∞ équivaut à dire que tous les Ω_{M} sont bornés). Les hypothèses (r1), (r2) et (bw) ne couvrent pas même des cas simples, comme b(x) = x_{1}^{2}x_{2}^{2}, N = 2, pour lesquels (PS) est toujours satisfaite.

Mon premier objectif était de remplacer (r1) par l’hypothèse

λ_{1}(−Δ + b(x), Ω) = inf_{u∈H_{0}^{1}(Ω)\\{0\}} \frac{∫_{ℝ^{N}} |∇u|^{2} + b(x)u^{2} dx}{∫_{ℝ^{N}} |u|^{2} dx} > 0 ; (48)

qui (même pour un domaine borné) est une condition nécessaire pour l’existence d’une solution positive – et, surtout, d’étudier jusqu’où l’on peut étendre (bw). J’ai trouvé des conditions sur b et Ω qui sont nécessaires et suffisantes pour que Φ satisfasse (PS) sur H. Le théorème suivant, énoncé pour le cas Ω = ℝ^{N} et f(x, u) = |u|^{p−1}u (pour simplifier), contient une telle condition.

Théorème 22 Pour tout ouvert G ⊂ ℝ^{N} et tout s ∈ [2, \frac{2N}{N−2}) on note

λ_{s}(G) = inf_{u∈M_{s}(G)} ∫_{G} |∇u|^{2} + b(x)u^{2} dx,

où M_{s}(G) = {u ∈ H_{0}^{1}(G) | ∥u∥_{L^{s}(G)} = 1}. On suppose (48), i.e. λ_{2}(ℝ^{N}) > 0. Alors Φ satisfait (PS) si et seulement si pour tout r > 0 et toute suite {x_{n}} ⊂ ℝ^{N} qui tend vers l’infini

λ_{p+1}(B(x_{n}, r)) → ∞ quand n → ∞.  (49)

Malheureusement, (49) n’est pas simple à vérifier en pratique. On peut obtenir des conditions géométriques sur b qui l’impliquent et qui sont "presque" nécessaires pour que Φ satisfasse (PS). Par exemple, (49) est vérifiée si pour tout M > 0, tout r > 0 et toute suite {x_{n}} ⊂ ℝ^{N} qui tend vers l’infini on a

lim_{n→∞} |Ω_{M} ∩ B(x_{n}, r)| = 0.  (50)

En quelque sorte, (50) indique que tous les ensembles de niveau de b deviennent de plus en plus étroits à l’infini. En revanche, il n’est pas difficile de montrer que (PS) n’est pas satisfaite si un ensemble de niveau contient une suite de boules disjointes de rayon fixe.

II. J’ai également étudié l’existence de solutions de (40) dans le cas où la fonction f est non-bornée en x. A ma connaissance, ce cas n’avait pas été considéré antérieurement, sauf pour des équations radiales (voir [58]).

Supposons que

|f(x, t)| ≤ A(x)(1 + |t|^{p}) et  lim_{t→0} \frac{f(x, t)}{A(x)t} = 0,  (51)

pour tout x ∈ ℝ^{N}, où A(x) ∈ L_{loc}^{∞}(ℝ^{N}).

Il s’avère que, si A(x) a une croissance à l’infini inférieure à celle de b(x), dans le sens où

∃α > 1 : A(x) ≤ C_{0} (1 + (max\{0, b(x)\})^{\frac{1}{α}} ) , |x| ≥ R_{0}(α),  (52)

on peut toujours obtenir le Théorème 22, à condition de restreindre l’intervalle pour p, plus précisément, à condition de supposer

1 < p < \frac{N + 2}{N − 2} − \frac{4}{α(N − 2)}.

Cette limitation est clairement nécessaire pour que la deuxième intégrale dans la défintion de Φ soit finie pour u ∈ H. On voit que l’on retrouve toute l’intervalle (1, \frac{N+2}{N−2}), si (52) est satisfait pour tout α > 1 (par exemple, si b a une croissance exponentielle et A a une croissance polynomiale).

En étudiant la situation (51)-(52), nous avons observé un fait surprenant, lié à l’identité de Pohozaev. Pour l’illustrer, prenons le cas modèle f(x, u) = A(x)|u|^{p−1}u. Il est facile de voir, si A(x) ∈ L^{∞}(ℝ^{N}), que pour tout p ≥ \frac{N+2}{N−2} il n’existe pas de solution de (40), qui appartienne à l’espace variationnel. En revanche, comme on l’a déjà expliqué, si p < \frac{N+2}{N−2} de telles solutions existent.

De la même manière, si l’on prend b(x) ∼ |x|^{a} et A(x) ∼ |x|^{b}, avec α = \frac{a}{b} > 1, et que l’on applique l’identité de Pohozaev-Pucci-Serrin, on obtient que (40) n’a pas de solution, pourvu que

\frac{N + 2}{N − 2} + \frac{2b}{N − 2} ≤ p < ∞.

Autrement dit, le fait de prendre des non-linéarités qui ne sont pas bornées en x donne un “trou” entre l’intervalle où les méthodes variationnelles assurent l’existence d’une solution et l’intervalle où l’identité de Pohozaev implique la non-existence de solutions.

III. Une autre question que l’on peut se poser sur (40) – sachant qu’elle possède une solution si “b(x) tend vers l’infini” – est la suivante : peut-on la résoudre dans le cas où b(x) est seulement “suffisamment” grand à l’infini ? Bartsch et Wang ont montré que l’équation

−Δu + λb_{λ}(x)u = f(x, u)  (53)

a une solution positive pour λ grand, sous les hypothèses suivantes :

\{ \begin{matrix}b_{λ} ≥ 0 & et |Ω_{M}| < ∞, pour un M > 0. \\ b^{−1}(0) & contient un ouvert non-vide. \end{matrix}  (54)

La nécessité de l’hypothèse sur b^{−1}(0) est restée une question ouverte. Je suis parvenu à remplacer cette hypothèse par

b^{−1}(0) n’est pas vide.  (55)

Les articles suivants sont consacrés à l’étude de systèmes sous forme divergence (c’est-à-dire, pour qui l’on peut utiliser des méthodes variationnelles).

3.3 Ondes stationnaires en optique non-linéaire

Le fait que la lumière dans un milieu non-linéaire peut se décomposer en paquets d’ondes qui se propagent à des vitesses et à des fréquences différentes a été observé expérimentalement par Mitchell et Segev (Nature, 1997). Leurs expériences ont engendré un très grand nombre de travaux théoriques^{1}. Je citerai ici [87], [78], [1], [32], où l’on peut trouver plusieurs autres références sur le sujet.

Dans [42], [32] il a été démontré que, pour un milieu de type "Kerr", un bon modèle décrivant le phénomène en question est donné par le système d’équations de Schrödinger

2ik_{j} \frac{∂ψ_{m}^{j}}{∂t} + Δ_{x}ψ_{m}^{j} + αk_{j}^{2}I(x, t)ψ_{m}^{j} = 0,  (56)

où

I(x, t) = ∑_{j=1}^{N_{f}} ∑_{m=1}^{N_{j}} λ_{m}^{j}|ψ_{m}^{j}(x, t)|^{2}.

Ici ψ_{m}^{j} (la (m, j)-composante du rayon) est une fonction complexe définie sur ℝ^{N} × ℝ^{+}, N ≤ 3, N_{f} est le nombre de fréquences, N_{j} est le nombre d’ondes à la fréquence ω_{j}, k_{j} est un multiple de la fréquence ω_{j}, et λ_{m}^{j} sont les "mode-occupancy coefficients" qui décrivent le milieu.

On cherche des ondes stationnaires de (56) de la forme

ψ_{m}^{j}(t, x) = e^{iκ_{m}^{j}t}u_{m}^{j}(x),  (57)

où u_{m}^{j} : ℝ^{N} ⟶ ℝ est le profile spatial de la m-ème onde à la fréquence ω_{j}, et κ_{m}^{j} est sa vitesse de propagation. En remplaçant (57) dans (56) et en renommant les constantes nous obtenons le système suivant pour le vecteur u = (u_{1}, …, u_{d}) : ℝ^{N} → ℝ^{d}, u ≠ (0, …, 0),

−Δu_{i} + λ_{i}u_{i} = (∑_{j=1}^{d} μ_{ij}|u_{j}|^{2}) u_{i},  i = 1, …, d.  (58)

Nous considérons le cas où u_{i} peut être remplacé par s_{i}u_{i}, s_{i} > 0, de telle façon que s_{j}^{2}μ_{ij} = s_{i}^{2}μ_{ji}, pour tous i ≠ j. Ceci est toujours possible pour des systèmes de deux équations (d = 2). On peut alors supposer μ_{ij} = μ_{ji}, et (58) est le système de Euler-Lagrange pour la fonctionnelle d’énergie

1"One of the most exciting problems of modern laser physics is an investigation of self-organisation in systems consisting of a nonlinear medium and a light field", [87]. Cet article contient une liste assez complète de domaines de la physique où interviennent les systèmes décrits ici, ainsi que des références.

E(u) = \frac{1}{2} ∫_{ℝ^{N}} ∑_{i=1}^{d} \{ |∇u_{i}(x)|^{2} + λ_{i}|u_{i}(x)|^{2}\} dx − \frac{1}{4} ∫_{ℝ^{N}} ∑_{i,j=1}^{d} μ_{ij}u_{i}^{2}(x)u_{j}^{2}(x) dx.

Cette fonctionnelle est bien définie si les fonctions u_{i} sont dans l’espace de Sobolev H^{1}(ℝ^{N}), car H^{1}(ℝ^{N}) ↪ L^{4}(ℝ^{N}), si N ≤ 3.

Remarquons que les solutions u qui nous intéressent sont celles dont au moins deux des composantes u_{i} sont différentes de zéro. Il est clair que des solutions qui ont une composante non-triviale et d − 1 composantes nulles existent toujours, par la théorie des équations scalaires.

Dans l’article [S7] je me suis intéressé en particulier à l’existence de solutions de (58) d’énergie minimale parmi les solutions telles que u_{i} ≢ 0 pour au moins deux indices i. Dans les cas où l’on est capable de calculer explicitement les solutions d’énergie minimale - voir Théorème 23 - ces solutions représentent les profiles des solitons "lumineux"^{2}, qui sont les plus fréquemment observés, connus en physique depuis les articles fondateurs [128], [102].

Dans tous les articles cités plus haut on a étudié le cas uni-dimensionnel, N = 1. Mon travail a été motivé par un article récent de Lin et Wei [95], où ils ont considéré pour la première fois le cas multi-dimensionnel. Le résultat principal dans [95] affirme qu’une solution d’énergie minimale existe pourvu que tous les coefficients hors-diagonale de la matrice (μ_{ij}) sont suffisamment proches de zéro, avec une borne implicite. Mon objectif a été de considérer des coefficients arbitraires et de donner explicitement des régions d’existence et de non-existence pour les paramètres.

Pour simplifier les énoncés, on se concentrera sur un système de deux équations

\{ \begin{matrix}Δu_{1} − u_{1} + μ_{1}u_{1}^{3} + βu_{1}u_{2}^{2} & = & 0 \\ u_{1}, u_{2} & ∈ & H^{1}(ℝ^{N}) \\ Δu_{2} − λu_{2} + μ_{2}u_{2}^{3} + βu_{1}^{2}u_{2} & = & 0, \end{matrix}  (59)

où λ, μ_{1}, μ_{2} > 0.

On recherche des points critiques non-triviales de la fonctionnelle

E(u) = \frac{1}{2} ∫_{ℝ^{N}} (|∇u_{1}|^{2} + u_{1}^{2} + |∇u_{2}|^{2} + λu_{2}^{2}) − \frac{1}{4} ∫_{ℝ^{N}} μ_{1}u_{1}^{4} + 2βu_{1}^{2}u_{2}^{2} + μ_{2}u_{2}^{4}

2"bright photorefractive screening solitons", dans la littérature anglophone.

sur l’espace H := H^{1}(ℝ^{N}) × H^{1}(ℝ^{N}). On considère l’ensemble

\begin{aligned}N = & \{u ∈ H, u_{1} ≢ 0, u_{2} ≢ 0, ∫_{ℝ^{N}} (|∇u_{1}|^{2} + u_{1}^{2}) = ∫_{ℝ^{N}} μ_{1}u_{1}^{4} + βu_{1}^{2}u_{2}^{2}, \\ & ∫_{ℝ^{N}} (|∇u_{2}|^{2} + λu_{2}^{2}) = ∫_{ℝ^{N}} βu_{1}^{2}u_{2}^{2} + μ_{2}u_{2}^{4}\} . \end{aligned}

Il est facile de voir que toute solution non-triviale de (59) appartient à N. On pose

A = inf_{u∈N} E(u),  A_{r} = inf_{u∈N ∩H_{r}} E(u).  (60)

où H_{r} contient les couples radiales dans H.

Proposition 1 Si A ou A_{r} est atteint par un couple u ∈ N alors ce couple est une solution de (59), à condition que −∞ < β < \sqrt{μ_{1}μ_{2}} .

Soit w_{1}(x) = w_{1}(|x|) l’unique solution positive de l’équation scalaire

−Δw + w = w^{3} dans ℝ^{N}.  (61)

Cette équation est très bien étudiée.

Mon premier résultat sur (59) concerne le cas λ = 1 (autrement dit, les vitesses de propagation sont ajustées aux fréquences). Dans ce cas on donne une réponse complète à la question d’existence de solutions positives de (59) . Remarquons que si (u_{1}, u_{2}) est une solution d’énergie minimale alors (|u_{1}|, |u_{2}|) l’est aussi.

Théorème 23 Soit λ = 1.

(i) Si 0 ≤ β < min{μ_{1}, μ_{2}} alors A = A_{r} est atteint par le couple

(\sqrt{k}w_{1}, \sqrt{l}w_{1}),  où \{ \begin{matrix}μ_{1}k + βl & = & 1 \\ βk + μ_{2}l & = & 1. \end{matrix}  (62)

(ii) Si min{μ_{1}, μ_{2}} ≤ β ≤ max{μ_{1}, μ_{2}} et μ_{1} ≠ μ_{2} alors le système (59)

n’a pas de solution dont les composantes sont positives ; (iii) Si min\{μ_{1}, μ_{2}\} ≤ β < \sqrt{μ_{1}μ_{2}} alors A et A_{r} ne sont pas atteints. (iv) Si β > max{μ_{1}, μ_{2}} alors A = A_{r} est atteint par le même couple que

dans (i).

Remarque 1. Il avait été montré dans [95] que A est atteint sous l’hypothèse 0 < β < β_{0}(λ, μ_{1}, μ_{2}, n), où β_{0} est petit (et inconnu). Remarque 2. Le couple considéré dans (i) et (iv) est clairement une solution de (59) avec λ = 1, dans tous les cas où μ_{1}, μ_{2}, β dans (62) sont tels que k > 0, l > 0. Le fait que cette solution est d’énergie minimale était une question ouverte,voir [96], Remarque 1.4.

Le théorème suivant concerne le cas général λ ≥ 1 et β ∈ ℝ.

Théorème 24 On pose ν_{1} = μ_{1}λ^{1− \frac{n}{4}} , ν_{2} = μ_{2}λ^{\frac{n}{4} −1}.

(i) Soit ν_{0} la plus petite racine de l’équation

λ^{−n/4}x^{2} − (ν_{1} + ν_{2})x + ν_{1}ν_{2} = 0.

Si −∞ < β < ν_{0} alors A_{r} est atteint par une solution de (59). En plus, si 0 ≤ β < ν_{0} alors A = A_{r}.

(ii) Si μ_{2} ≤ β ≤ μ_{1} et μ_{2} < μ_{1} alors le système (59) n’a pas de solution

dont les composantes sont positives ; (iii) Si μ_{2} ≤ β < \sqrt{μ_{1}μ_{2}} alors A et A_{r} ne sont pas atteints. (iv) Si β > λ^{\frac{n}{4}} max\{ν_{1}, ν_{2}\} alors A = A_{r} est atteint par une solution

de (59).

Remarque 3. Les conditions dans (i) et (iv) du Théorème 24 se réduisent à celles du Théorème 23, quand λ = 1. Les résultats (i) et (iv) du Théorème 24 peuvent être améliorés (voir l’article). Néanmoins, il reste des regions pour les paramètres où nous ne savons pas s’il existe des solutions d’énergie minimale. Trouver une condition nécessaire et suffisante pour l’existence de telles solutions est une question ouverte très intéressante que je compte poursuivre dans l’avenir. Remarque 4. Il a été démontré dans [95] que A n’est pas atteint lorsque β < 0 ("interaction répulsive"). J’ai montré que, néanmoins, (58) a des solutions dans ce cas.

Observons enfin que la fonctionnelle E, qui au premier abord peut paraître assez "scalaire" par rapport au vecteur u, au sens où

E(u) = \frac{1}{2} ∫_{ℝ^{N}} ∥u∥^{2} − \frac{1}{4} ∫_{ℝ^{N}} <Mu^{2}, u^{2} >,

(avec M ∈ S_{2}(ℝ), u^{2} = (u_{1}^{2}, u_{2}^{2})) en réalité a des propriétés qui diffèrent fortement de celles d’une fonctionnelle scalaire, en ce qui concerne l’existence de solutions positive. Ceci résulte du fait que le système n’est pas complètement couplé, voir la section 2 dans [S7].

3.4 Systèmes de type hamiltonien

En général, on distingue deux types de systèmes elliptiques variationnels – systèmes Lagrangiens, où la non-linéarité est le gradient d’une fonction, comme dans la section précédente, et Hamiltoniens, où nous avons par exemple −Δu = f(u, v), −Δv = g(u, v) et il existe une fonction H(u, v) telle que f = H_{v} et g = H_{u}.

Dans l’article [S1] je me suis proposé d’étudier l’existence et la régularité des solutions faibles du système hamiltonien dans l’espace entier

\{ \begin{matrix}−Δu + u & = & g(x, v) \\ −Δv + v & = & f(x, u),  x ∈ ℝ^{N}, \end{matrix}  (63)

où f et g sont des fonctions continues, le cas modèle étant g = |v|^{q−1}v et f = |u|^{p−1}u. Les résultats obtenus se généralisent facilement au cas où chacune des fonctions f et g dépend de x, u, v et il existe une fonction (Hamiltonien) H(x, u, v) telle que H_{u} = f et H_{v} = g.

Plusieurs travaux ont été consacrés aux systèmes du type (63) (voir [43], [48], [66], [79] et les références dans ces articles) dans un domaine borné. D. de Figueiredo et J. Yang ont étudié (63) dans ℝ^{N} et ont obtenu quelques résultats partiels d’existence et de régularité pour ce système (voir [69] et plus précisément le Théorème 2.1 et le Théorème 5.1 dans cet article).

Le premier de nos objectifs était de montrer que (63) possède des solutions radiales non-triviales sous des conditions qui représentent la généralisation naturelle pour les systèmes des hypothèses du “théorème du col”. Nous avons utilisé les hypothèses suivantes : (h1) il existe C > 0 et δ > 0, tels que |f(x, t)| ≤ C|t| et |g(x, t)| ≤ C|t|

pour tout x ∈ ℝ^{N} et tout |t| ≤ δ ;

(h2) pour tout x ∈ ℝ^{N} lim_{t→0} \frac{f(x,t)}{t} = lim_{t→0} \frac{g(x,t)}{t} = 0 ; (h3) il existe des constantes positives C, p et q, telles que pour tout x ∈ ℝ^{N}

et tout t ∈ ℝ

\begin{aligned}|f(x, t)| & ≤ & C(1 + |t|^{p}), \\ |g(x, t)| & ≤ & C(1 + |t|^{q}). \end{aligned}  (64)

De plus, on suppose que les inégalités suivantes sont vérifiées :

p > 1, q > 1, \frac{1}{p + 1} + \frac{1}{q + 1} > 1 − \frac{2}{N} ;  (65)

(h4) il existe μ > 2, tel que tf(x, t) ≥ μF (x, t), tg(x, t) ≥ μG(x, t), pour tout x ∈ ℝ^{N} et tout t ∈ ℝ \ {0}.

Les inégalités (65) décrivent la région dans le plan où le couple (p, q) doit être situé pour que l’on puisse appliquer des techniques variationnelles pour résoudre (63). L’idée est que l’un des nombres p et q peut être plus grand que l’exposant critique \frac{N+2}{N−2}, à condition que l’autre soit suffisamment petit pour compenser (noter que pour p = q (65) se réduit à 1 < p < \frac{N+2}{N−2}). Cette restriction a été introduite dans [43] et [79].

Théorème 25 Supposons que (h2), (h3) et (h4) soient vérifiées. Si f et g sont radiales en x, (c.a.d. ne dépendent que de |x|), alors il existe une solution faible radiale non-triviale de (63).

Les solutions faibles radiales de (63) sont les points critiques de la fonctionnelle

Φ(u, v) = ∫_{ℝ^{N}} A^{s}uA^{t}v dx − ∫_{ℝ^{N}} F (x, u) dx − ∫_{ℝ^{N}} G(x, v) dx

sur l’espace des fonctions radiales dans H = H^{s} × H^{t}; ici s et t sont des nombres réels, compris entre 0 et 2, tels que s + t = 2 et que l’on ait les injections de Sobolev H^{s} ↪ L^{p+1} et H^{t} ↪ L^{q+1} (s et t existent grâce à (65)). On note avec A^{s} un isomorphisme canonique de l’espace fractionnel H^{s} vers L^{2}. Si p, q < \frac{N+2}{N−2} on peut prendre s = t = 1 et alors A^{s}uA^{t}v = ∇u∇v + uv.

Il est à noter que cette fonctionnelle a un comportement essentiellement différent de celles rencontrées dans les sections précédentes. Notamment, Φ ici est fortement indéfinie, au sens où l’on peut décomposer l’espace H en somme directe de deux espaces de dimension infinie, H = H_{1}⊕H_{2}, de manière à ce que le premier terme dans Φ tend vers plus l’infini si u ∈ H_{1}, ∥u∥ → ∞, et vers moins l’infini si u ∈ H_{2}, ∥u∥ → ∞.

Nous avons obtenu le Théorème 25 en tant que conséquence d’un résultat de la théorie abstraite des points critiques, de type “linking” en dimension infinie, dû à S. Li et M. Willem (voir [91]).

Le Théorème 25 étend considérablement le Théorème 5.1 dans [69], en affaiblissant les hypothèses (H4) et (H5) dans [69], et en supprimant l’hypothèse sur les paramètres p, q, α, β dans cet article. Soulignons que la façon dont nous avons vérifié les hypothèses du théorème de Li et Willem est sensiblement différente de celle utilisée dans [69].

Nous avons obtenu un résultat de régularité pour les solutions faibles et pour les solutions fortes de (63), en utilisant la technique de bootstrap. Nous avons montré que cette technique, classique dans la théorie des équations scalaires, s’applique aussi aux systèmes. Dans la littérature, une paire (u, v) est appelée solution forte de (63) si u ∈ W^{2, \frac{p+1}{p}} (ℝ^{N}), v ∈ W^{2, \frac{q+1}{q}} (ℝ^{N}).

Théorème 26 (a) Supposons que (h1) et (h3) soient vérifiées. Alors les solutions fortes de (63) appartiennent à W^{2,s}(ℝ^{N})^{2}, pour tout 2 ≤ s < ∞.

(b) Supposons que (h1) et (h3) soient vérifiées. Alors les solutions faibles de (63) appartiennent à W_{loc}^{2,s}(ℝ^{N})^{2}, pour tout 2 ≤ s < ∞.

(c) Supposons que (h2) et (h3) soient vérifiées. Alors les solutions faibles radiales de (63) appartiennent à C^{2}(ℝ^{N}). En plus, toutes leurs dérivées d’ordre inférieur ou égal à 2 convergent exponentiellement vers zéro à l’infini.

Dans [69] de Figueiredo and Yang ont montré, sous l’hypothèse supplémentaire max\{p, q\} < \frac{N+2}{N−2}, que les solutions fortes, ainsi que leurs dérivées, convergent vers zéro à l’infini. Cela est un cas très particulier du Théorème 26 (a). La partie (b) du Théorème 26 contient le résultat de régularité dans [79]. S’appuyant sur la technique de bootstrap, nous avons donné une démonstration simple de ce résultat. Le Théorème 26 (c) est inspiré par le célèbre résultat de Berestycki et Lions ([24]) pour des équations scalaires autonomes.

Nous avons aussi étudié l’existence d’états fondamentaux du système (63), c’est-à-dire de solutions qui minimisent l’intégrale de l’énergie Φ sur l’ensemble de toutes les solutions faibles non-triviales.

Théorème 27 Sous les hypothèses du Théorème 18,

(a) si toutes les solutions faibles du système (63) sont radiales, alors ce système admet un état fondamental ;

(b) le système

\{ \begin{matrix}−Δu + u & = & g(v) \\ −Δv + v & = & f(u) \end{matrix}  (66)

admet un état fondamental, pourvu qu’il existe des constantes positives c et C telles que

\begin{aligned}c|t|^{p+1} ≤ & tf(t) & ≤ C|t|^{p+1}, \\ c|t|^{q+1} ≤ & tg(t) & ≤ C|t|^{q+1}, \end{aligned}  (67)

avec p et q vérifiant (65).

Le Théorème 27 (a) est à utiliser avec le résultat de symétrie, établi dans la Section 4.3. Ce résultat détermine une classe de systèmes qui n’admettent que des solutions radiales. Le Théorème 27 (b) est un résultat indépendant de la symétrie des solutions. Le cas modèle

\{ \begin{matrix}−Δu + u & = & (v^{+})^{q} \\ −Δv + v & = & (u^{+})^{p},  x ∈ ℝ^{N}, \end{matrix}  (68)

est couvert par chacune des deux parties du Théorème 27.

Finalement, nous avons montré que les résultats obtenus dans Section 3.2 peuvent être généralisés pour le système hamiltonien

\{ \begin{matrix}−Δu + b(x)u & = & g(x, v) \\ −Δv + b(x)v & = & f(x, u),  x ∈ ℝ^{N}. \end{matrix}  (69)

Cela étend un résultat de Y. Ding et S. Li ([57]), où ils supposaient que

lim_{∥x∥→∞} b(x) = ∞, max\{p, q\} < \frac{N + 2}{N − 2}.

3.5 Etude asymptotique dans le cas d’un système

Dans l’article très récent [MS] nous étudions l’extension des résultats de la section 3.1 aux systèmes Hamiltoniens. Considérons le cas modèle

\{ \begin{matrix}−ℏ^{2}Δu + b(x)u & = & |v|^{q−1}v \\ −ℏ^{2}Δv + b(x)v & = & |u|^{p−1}u,  x ∈ ℝ^{N}. \end{matrix}  (70)

L’objectif est de montrer que ce système a une solution positive pour ℏ assez petit, sous une condition naturelle de structure sur le potentiel b(x) (comme dans la section 3.1).

On utilise une formulation duale du problème, obtenue par la transformée de Legendre-Fenchel, qui, contrairement au problème initial, permet d’utiliser le théorème du col (Théorème 19) pour trouver des points critiques généralisés. Ceci implique, par une procédure standard, l’existence d’une solution faible du problème, la difficulté étant de montrer que cette solution est non-triviale.

Dans la démonstration de la non-trivialité on utilise de façon essentielle que la valeur critique généralisée c_{ℏ} donnée par le Théorème 19 tend vers zéro lorsque ℏ → 0. Cette idée apparaît déjà dans [S4]. En revanche, il s’avère que la démonstration de la convergence vers zéro est nettement plus difficile dans le cas d’un système. Notre preuve utilise des résultats fins de solvabilité de problèmes elliptiques dans des espaces de Sobolev fractionnaires via la transformée de Fourier.

4 Les résultats de symétrie et de monotonie.

Cette partie contient des contributions à l’étude des propriétés qualitatives des solutions positives de certains équations et systèmes elliptiques. Pour introduire le type de problèmes qui nous intéressent, considérons l’équation modèle

\{ \begin{matrix}Δu + f(u) = 0 & dans & Ω \\ u > 0 & dans & Ω \\ u = 0 & sur & ∂Ω, \end{matrix}  (71)

où f ∈ C^{0,1}(ℝ^{+}, ℝ). On s’intéresse aux deux questions suivantes :

– Est-ce que toutes les solutions de (71) ont la même symétrie que le domaine Ω ?

– Si (71) est surdéterminé (plus précisément, on rajoute une condition de Neumann constante sur ∂Ω) et Ω n’est pas une boule, alors ce problème peut-il avoir une solution ?

En 1971, dans son célèbre travail [116], J. Serrin a donné une réponse négative à la deuxième question, pour un domaine borné.

Théorème 28 (Serrin) Soit Ω un domaine borné et soit u ∈ C^{2}(\overline{Ω}) une

solution de (71), telle que \frac{∂u}{∂n} = const sur ∂Ω. Alors Ω est une boule,

centrée en un point x_{0} ∈ ℝ^{N}, u est radiale, c.a.d. u = u(|x − x_{0}|) et, en plus,

\frac{du}{dr} < 0 pour r = |x − x_{0}| > 0.  (72)

Serrin a été le premier à utiliser la puissante méthode de déplacement d’hyperplans pour des problèmes du type (71). Cette méthode a été introduite par A. Alexandrov, dans le cadre de l’étude des surfaces minimales.

S’appuyant sur la même méthode, en 1979 B. Gidas, W.M. Ni et L. Nirenberg ([73]) ont donné une réponse positive à la premiere question, pour un domaine borné et convexe.

Théorème 29 (Gidas-Ni-Nirenberg) Soit Ω un domaine borné, convexe dans la direction x_{1} et symétrique par rapport à l’hyperplan {x_{1} = 0}. Si u est une solution de (71) alors u est symétrique par rapport à {x_{1} = 0} et, en

plus, \frac{∂u}{∂x_{1}} < 0 dans Ω ∩ \{x_{1} > 0\}.

Corollaire 1 Si Ω est une boule, alors toute solution de (71) est radiale et décroissante (c.a.d. (72) est vérifié).

Ces deux théorèmes classiques ont connu de nombreux développements pendant les vingt dernières années. Cela a été rendu possible surtout par l’important travail de H. Berestycki et L. Nirenberg ([25]), qui ont amélioré et simplifié la méthode de déplacement d’hyperplans. Citons en plus le résultat de C. Li ([90], voir aussi [94]) qui a montré que toute solution de (71) dans ℝ^{N} (rappelons qu’alors on suppose u → 0 à l’infini) est radiale et décroissante par rapport à un point dans ℝ^{N}, sous l’hypothèse supplémentaire

(l) f est décroissante au sens large dans un voisinage de zéro.

Notre objectif a été d’étendre les résultats de Serrin, Gidas-Ni-Nirenberg et C. Li à une classe de domaines non-bornés et non-convexes. Nos résultats permettent de résoudre deux vieilles conjectures d’origine physique, provenant de l’électrostatique et de la théorie de la capillarité.

Nous avons aussi étudié l’extension des résultats cités aux systèmes coopératifs faiblement couplés. Ces extensions jouent un rôle important dans certains résultats d’existence, voir le Chapitre 3. Enfin, nous avons récemment obtenu des résultats de symétrie pour les solutions de viscosité d’équations complètement non-linéaires (comme les équations de Hamilton-Jacobi-Bellman et d’Isaac).

4.1 Examples de problèmes physiques menant à des problèmes aux limites sur-déterminés

Suivant [S5] nous allons énoncer deux hypothèses, provenant de l’électrostatique et de la théorie de la capillarité, dont la résolution (décrite dans la section suivante) nécessite l’étude de problèmes elliptiques sur-déterminés.

Considérons l’état d’équilibre d’un liquide homogène et incompressible, contenu dans un réservoir cylindrique vertical, sujet à la force gravitationnelle. On prend un système de coordonnées Oxyz, en supposant que l’axe Oz est vertical, parallel à l’axe du vaisseau (voir Figure 2). Soit Ω la section du cylindre. Pour tout (x, y) ∈ \overline{Ω} on définit u(x, y) comme la hauteur à laquelle se trouve la surface du liquide au dessus du point (x, y, 0).

Dans cette situation les deux premières conditions pour un équilibre hydrostatique (loi d’Euler et loi de Laplace) se réduisent à l’équation suivante

div\frac{∇u}{\sqrt{1 + |∇u|^{2}}} − bu = q dans Ω,  (73)

où b = \frac{ρg}{σ}, et q est une constante universelle (voir [104], Chapitre 2). Selon l’usage ρ désigne la densité du liquide, σ est la tension à la surface, et g est

Fig. 2 –

la constante gravitationnelle. Toutes ces quantités sont constantes dans ce modèle.

Alors la condition d’équilibre hydrostatique de Dupré-Young devient

\frac{∂u}{∂n} = −(cos α)\sqrt{1 + |∇u|^{2}} sur ∂Ω,  (74)

où n est la normale intérieure à ∂Ω et α est l’angle de contact entre la surface du liquide et les parois du cylindre.

La question qui nous intéresse est la suivante : quand est-ce que le liquide se trouve à la même hauteur au dessus de chaque point du bord ∂Ω ?

Si u =const sur ∂Ω alors la dérivée normale de u est égale à la norme du gradient de u sur ∂Ω, du coup (74) se réduit à

\frac{∂u}{∂n} = −(cotgα) sur ∂Ω.

On peut supposer que α < \frac{π}{2} (pour α = \frac{π}{2} la seule solution de (73)-(74)

est u ≡ \frac{−q}{b}, indépendamment de la forme de ∂Ω).

Par le principe du maximum u atteint son maximum dans \overline{Ω} sur le bord ∂Ω. Par le principe du maximum fort, si u = const sur ∂Ω alors u atteint son maximum seulement sur ∂Ω, sauf si u est constante dans Ω, ce qui est exclu par α ≠ \frac{π}{2}.

Donc, en conclusion, pour répondre à la question posée ci dessus, nous devons étudier la solvabilité du problème aux limites suivant

\{ \begin{matrix}div\frac{∇u}{\sqrt{1 + |∇u|^{2}}} − bu & = & const & dans & Ω \\ u & > & 0 & dans & Ω \\ u & = & 0 & sur & ∂Ω \\ \frac{∂u}{∂n} & = & const & sur & ∂Ω \end{matrix}  (75)

(on a remplacé u par max_{Ω} u − u). Cette équation a été étudié par Serrin dans l’article [116], cité dans la section précédente. Il a montré que le seul cas où (75) a une solution est lorsque le cylindre est circulaire, c’est-à-dire lorsque Ω est une boule.

Considérons maintenant une situation duale à celle qu’on vient de décrire. Notamment, on prend un large réservoir rempli de liquide où l’on immerge un cylindre solide. Alors on obtient la même équation, mais dans le domaine extérieur ℝ^{N} \ Ω.

Plus généralement, supposons qu’on ait plusieurs corps cylindriques de sections Ω_{i}, i = 1, …, m, que l’on immerge, et étudions la hauteur des surfaces de contact entre le liquide et leurs parois. On se demande s’il est possible que cette hauteur soit constante pour chaque cylindre (équilibre). Ou bien, étant donné un ensemble de cylindres ainsi immergés, on se demande si l’on peut en rajouter d’autres, de manière à ce que le système obtenu soit en équilibre.

Mathématiquement, on obtient le problème surdétérminé

\{ \begin{matrix}div\frac{∇u}{\sqrt{1 + |∇u|^{2}}} − bu & = & const & dans & ℝ^{N} \ (∪Ω_{i}) \\ u & ≥ & u_{∞} & dans & ℝ^{N} \ (∪Ω_{i}) \\ u & → & u_{∞} & si & |x| → ∞ \\ u & = & a_{i} > 0 & sur & ∂Ω_{i}, i = 1, …, m. \\ \frac{∂u}{∂n} & = & −cotgα_{i} & sur & ∂Ω_{i}, i = 1, …, m. \end{matrix} (76)

Un problème très similaire provient de l’électrostatique. Si l’on a plusieurs corps conducteurs, avec des distributions de charge constantes sur leurs bords, on peut se demander sous quelle condition ce système est en équilibre, c’est-à-dire, sous quelle condition le potentiel induit par ces distributions est constant. Alors on obtient une fonction harmonique, qui vérifie les mêmes conditions aux bords que dans (76).

Le résultat dans la section suivante apporte la réponse aux deux questions que l’on vient de poser.

4.2 Problèmes aux limites sur-déterminés dans des domaines extérieurs

On s’intéresse à l’équation elliptique

\{ \begin{matrix}Qu + f(u, |∇u|) = 0 & dans & Ω \ G \\ u ≥ 0 , u ∈ C^{2} & dans & \overline{Ω \ G}, \end{matrix}  (77)

avec des conditions aux limites que l’on précisera ci-dessous. Ici Ω est un

domaine borné de classe C^{2} dans ℝ^{N}(N ≥ 2) ou Ω = ℝ^{N} ; G = ∪_{i=1}^{k} G_{i}, où

k ∈ ℕ et G_{i} sont des domaines bornés de classe C^{2}, avec \overline{G_{i}} ∩ \overline{G_{j}} = ∅ pour i ≠ j. On suppose que \overline{G} ⊂ Ω et que Ω \ G est connexe.

De plus, on suppose que

(q) Qu = div(g(|∇u|)∇u) où g ∈ C^{2}([0, ∞)) , g(s) > 0 et (sg(s))′ > 0 pour tout s ≥ 0. Autrement dit, Q est un opérateur strictement elliptique régulier (le Laplacien correspond à g ≡ 1).

(f) f(u, v) est une fonction localement lipschitzienne dans [0, ∞)^{2} et, de plus, si Ω = ℝ^{N} alors f est décroissante en u au sens large, pour u et v proches de zéro.

Les conditions aux limites qu’on considère sont les suivantes :

u = a_{i} > 0 et \frac{∂u}{∂n} = α_{i} ≤ 0 sur ∂G_{i}, i = 1, …, k,  (78)

où a_{i}, α_{i}, i = 1, …, k, sont des constantes et n désigne la normale intérieure sur ∂(Ω \ G). Si Ω est borné on suppose que

u = 0 et \frac{∂u}{∂n} = const sur ∂Ω.  (79)

Dans le cas Ω = ℝ^{N} la condition à l’infini est la suivante :

∇u(x), u(x) → 0 quand |x| → ∞.  (80)

Dans ce dernier cas, si f ne dépend pas de |∇u| on suppose seulement que u(x) → 0 quand |x| → ∞.

Le théorème suivant, démontré dans [S3], contient notre résultat principal.

Théorème 30 On suppose (q) et (f).

(a) Soit u une solution de (77) satisfaisant les conditions aux limites (78) et (79), ou (78) et (80). Alors k = 1, Ω et G sont des boules concentriques, centrées en un point x_{0} ∈ ℝ^{N}, u est radiale, u = u(|x − x_{0}|) et, en plus,

\frac{du}{dr} < 0 for r = |x − x_{0}| ∈ (ρ_{1}, ρ_{2}),

où ρ_{1} et ρ_{2} désignent les rayons de G et Ω (0 < ρ_{1} < ρ_{2} ≤ ∞).

(b) Si l’on suppose a priori que Ω ou/et G est une boule finie alors le même résultat reste vrai si l’on enlève l’hypothèse que la dérivée normale soit constante sur le bord de Ω ou/et G.

Le résultat de Serrin (Théorème 28) correspond à Théorème 30 (a), avec u > 0, G = ∅ et Ω borné. Plus récemment il y a eu plusieurs tentatives d’aborder les cas Ω = ℝ^{N} et G ≠ ∅. Alessandrini ([2]) a obtenu Théorème 30 (a) pour Ω borné et f ≡ 0. Willms, Gladwell et Siegel ([127]) ont montré le même résultat dans le cas où Ω et G_{i} sont bornés et convexes, avec en plus f ≡ 1, N = 2, Q = Δ. Finalement, Reichel [115] a démontré le Théorème 30 sous les hypothèses supplémentaires

a_{1} = … = a_{k} = a et 0 < u < a dans Ω \ G.

Le Théorème 30 englobe et généralise tous ces résultats. Sa preuve, assez longue, utilise la méthode de déplacement d’hyperplans et des raisonnements géométriques.

Il importe de remarquer que la démonstration du Théorème 30 reste valable si l’on considère un cas “limite” pour G, à savoir G = {x_{0}}, avec x_{0} ∈ ℝ^{N} tel que u(x_{0}) = max_{x∈Ω} u(x) > 0. Cela signifie que notre résultat comprend ceux obtenus pour les situations où G = ∅ ([73] et [41] pour une boule, [90] pour ℝ^{N}). En plus, si Ω est arbitraire et G = {x_{0}} alors le Théorème 30 donne une extension du résultat de Serrin pour des solutions positives seulement au sens large.

Comme conséquences du Théorème 30 on obtient deux résultats concernant les problèmes en physique décrits dans la section précédente.

Théorème 31 Des distributions de charge constantes sur les frontières de deux ou plus conducteurs réguliers dans ℝ^{N} ne peuvent pas induire des potentiels constants à l’intérieur des conducteurs.

Théorème 32 Deux ou plus cylindres réguliers, plongés dans un réservoir infini et rempli de liquide, ne peuvent jamais faire monter des surfaces capillaires à hauteurs constantes autour de leurs parois.

Pour Théorème 31 on obtient une équation du type (77) avec f = 0 et Q = Δ, tandis que pour Théorème 32 on a f(u) = −κu, avec κ > 0 et Qu = div\frac{∇u}{\sqrt{1+|∇u|^{2}}} – l’opérateur de la courbure moyenne.

4.3 Symétrie des solutions de systèmes elliptiques semilinéaires dans l’espace entier

Comme nous l’avons déjà indiqué, la théorie des systèmes elliptiques a pris beaucoup de retard vis-à-vis de la théorie des équations scalaires. Il existe pourtant une classe importante de systèmes – les systèmes coopératifs que nous avons déjà rencontrés – qui dans nombre de cas exhibent des propriétés qui les rendent similaires, avec une structure cependant bien plus riche, aux équations scalaires. L’article [BS1] était le premier dans un programme, poursuivi en collaboration avec Jérôme Busca, destiné à comprendre la nature de cette classe.

Nous avons étudié le système

\{ \begin{matrix}Δu_{i} + f_{i}(u_{1}, …, u_{n}) = 0 & dans & ℝ^{N}, i = 1, …, n, \\ u_{i} > 0 & dans & ℝ^{N}, \\ u_{i}(x) → 0 & quand & r = |x| → ∞, \end{matrix}  (81)

où n ≥ 1, N ≥ 2 et f_{1}, …, f_{n} sont continûment différentiables dans l’ensemble ℝ_{+}^{n} = (0, ∞)^{n} (les résultats se généralisent facilement pour f_{i} seulement localement Lipschitziennes). Remarquons que le système (81) est faiblement couplé, au sens où le couplage n’intervient que dans les termes d’ordre zéro.

Des exemples de systèmes qui satisfont nos hypothèses peuvent être trouvés dans les sections 3.3-3.4.

On suppose que (81) est coopératif, ce qui signifie que

(H1) pour tout i, j ∈ {1, …, n}, tels que i ≠ j :

\frac{∂f_{i}}{∂u_{j}} ≥ 0 dans ℝ_{+}^{n}.

En 1981 W. Troy ([122], voir aussi [120]) a montré que si (H1) est satisfait alors les solutions de

Δu_{i} + f_{i}(u_{1}, …, u_{n}) = 0 dans B, i = 1, …, n,
u_{i} > 0 dans B,
u_{i} = 0  sur ∂B,

où B est une boule, sont nécessairement radiales. La question de la symétrie des solutions dans l’espace entier est restée ouverte.

Le problème dans ℝ^{N} a une particularité : le centre de symétrie n’est pas défini à priori (en effet, (81) est invariant par rapport aux translations). Par conséquent on a besoin d’une hypothèse supplémentaire pour garantir que toutes les fonctions u_{1}, …, u_{n} sont symétriques par rapport au même point. L’hypothèse suivante joue ce rôle et exprime le fait que (81) fait dépendre ces fonctions l’une de l’autre.

(H2) Il existe une constante ε > 0 telle que le système (81) soit complètement couplé dans l’ensemble

O_{ε} = {u| u ∈ ℝ_{+}^{n}, |u| < ε},

c’est-à-dire pour tout I, J ⊂ {1, …, n}, I ∩ J = ∅, I ∪ J = {1, …, n} il existe i_{0} ∈ I et j_{0} ∈ J tels que

\frac{∂f_{j_{0}}}{∂u_{i_{0}}} > 0 dans O_{ε}.

Le couplage complet est une propriété souvent rencontrée dans la littérature sur les systèmes elliptiques, que nous avons déjà utilisée plusieurs fois dans les chapitres précédents.

Il est clair que pour la symétrie dans ℝ^{N} on aura besoin d’une hypothèse à l’infini, de type (l) (voir page 50). Nous avons utilisé la généralisation suivante de (l) pour des systèmes :

(H3) il existe ε > 0 tel que tous les mineurs principaux de la matrice

(−\frac{∂f_{i}}{∂u_{j}} (u^{i}))_{1≤i,j≤n}

sont positifs au sens large, pour tout u^{i} ∈ O_{ε}, 1 ≤ i ≤ n. Rappelons que les mineurs principaux d’une matrice (m_{ij})_{1≤i,j≤n} sont les déterminants des sous-matrices (m_{ij})_{1≤i,j≤k}, avec 1 ≤ k ≤ n.

Nous avons montré le théorème suivant.

Théorème 33 Supposons que les fonctions f_{1}, …, f_{n} vérifient (H1)-(H3). Soit (u_{1}, …, u_{n}) une solution classique de (81). Alors il existe un point x_{0} ∈ ℝ^{N} tel que les fonctions u_{1}, …, u_{n} sont radiales par rapport à x_{0}, c’est-à-dire u_{i}(x) = u_{i}(|x − x_{0}|), i = 1, …, n. De plus,

\frac{du_{i}}{dr} < 0 pour tout r = |x − x_{0}| > 0, i = 1, …, n.

En plus, pour les systèmes de deux équations nous avons un théorème de symétrie sans hypothèse de couplage, voir Théorème 2 dans [BS1].

Les résultats dans [BS1] ont été utilisé par plusieurs auteurs dans l’étude de la solvabilité de systèmes dans l’espace entier, comme celles étudiées dans les sections 3.3-3.5 (voir les articles correspondants et les références qui s’y trouvent).

4.4 Propriétés qualitatives des solutions de viscosité d’équations complètement non-linéaires

Dans l’article [LS] nous obtenons des résultats de symétrie de type Gidas-Ni-Nirenberg pour les solutions de viscosité d’équations complètement nonlinéaires

\{ \begin{matrix}F (D^{2}u, Du, u, x) & = & 0 & dans & Ω \\ u & > & 0 & dans & Ω \\ u & = & 0 & sur & ∂Ω, \end{matrix}  (82)

où F est une fonction réelle continue sur S_{N}(ℝ) × ℝ^{N} × ℝ × \overline{Ω} (S_{N}(ℝ) est l’espace des matrices symétriques N × N).

Les problèmes modèle sont les suivants

M_{λ,Λ}^{+}(D^{2}u) + b|∇u| + f(u) = 0,  M_{λ,Λ}^{−}(D^{2}u) − b|∇u| + f(u) = 0, (83)

où f est une fonction localement Lipschitzienne et M_{λ,Λ}^{+}, M_{λ,Λ}^{−} sont les opérateurs extrêmaux de Pucci (voir la section 1.2), avec paramètres 0 < λ ≤ Λ, b ≥ 0. Le résultat classique de Gidas, Ni et Nirenberg concerne le cas λ = Λ = 1, autrement dit, M_{λ,Λ}^{+} = M_{λ,Λ}^{−} = Δ.

Des résultats de symétrie pour les solutions classiques d’équations du type (82) ont été obtenus par C. Li [93]. Berestycki and Nirenberg [25] ont étendu ces résultats, en simplifiant leurs preuves.

Une hypothèse essentielle dans [25] est que l’opérateur F doit être continûment differentiable en la matrice des deuxième dérivées de u ∈ C^{2}(Ω)∩C(\overline{Ω}). Ceci ne permet pas d’appliquer les résultats de [25] à des classes importantes d’équations, comme les équations qui contiennent des opérateurs de Pucci, les équations de Hamilton-Jacobi-Bellman, ou les équations d’Isaac, où cette dépendance est seulement lipschitzienne.

D’autre part, Badiale [12] a montré des résultats de symétrie pour des solutions de viscosité de (82) sans hypothèse de régularité, mais sous l’hypothèse que l’opérateur F satisfasse le principe de comparaison. Ceci est une restriction assez forte (par ailleurs, nous l’étudions dans le chapitre 1).

Dans [LS] nous joignons et étendons les résultats cités ci-dessus. Nous montrons que la méthode de déplacement d’hyperplans d’Alexandrov [3], peut être adapté pour s’appliquer dans le cadre général des solutions de viscosité d’équations uniformément elliptique de type (82), sans autre hypothèse que la dépendance lipschitzienne de F (M, p, u, x) en (M, p, u).

On rappelle par ailleurs que l’existence et l’unicité de solutions d’équations du type (82) ont été très étudiées dans le cas d’équations propres (c’està-dire, lorsque F est monotone en u), ce qui garantit que F satisfasse le principe de comparaison, voir par exemple [49], [40], [50]. Assez récemment des résultats d’existence pour des équations non-propres du type (83) ont été obtenus par Felmer-Quaas [63] et dans nos travaux (voir Chapitre 1). Par exemple, on montre dans [63], [QS2], que le problème de Dirichlet pour (83) dans une boule a une solution positive et radiale lorsque f a une certaine croissance polynomiale. Nos résultats montrent qu’en réalité toutes les solutions positives sont radiales. Il est bien connu que la symétrie des solutions est une étape importante dans la preuve de l’unicité dans le cas non-propre.

Nous allons maintenant énoncer nos résultats. Si F (M, p, u) ne dépend pas de x nous supposons simplement qu’elle est uniformément elliptique, globalement Lipschitzienne en (M, p) et localement Lipschitzienne en u : (H1) pour tout R > 0 il existe une constante K_{R} > 0 telle que, pour tout

M, N ∈ S^{n}(ℝ), p, q ∈ ℝ^{N}, u, v ∈ [−R, R], on ait

\begin{aligned}F (M, p, u)−F (N, q, v) & ≥ & M_{λ,Λ}^{−}(M − N) − K_{R}|p − q| − K_{R}|u − v|, \\ F (M, p, u)−F (N, q, v) & ≤ & M_{λ,Λ}^{+}(M − N) + K_{R}|p − q| + K_{R}|u − v|. \end{aligned}

Dans le cas général on suppose que (H2) (Régularité) pour tout R > 0 il existe une constante K_{R} > 0 et une

fonction ω_{R}: ℝ^{+} → ℝ^{+}, ω_{R}(0^{+}) = 0, telles que, pour tous x, y ∈ \overline{Ω}, p, q ∈ ℝ^{N}, M, N ∈ S_{N}(ℝ), u_{1}, u_{2} ∈ [−R, R]

|F (M, p, u_{1}, x) − F (N, q, u_{2}, y)| ≤ K_{R} {|p − q| + ||M − N||
+ |u_{1} − u_{2}| + |x − y|(||M|| + ||N||)}
+ ω_{R}(|x − y|(1 + |p| + |q|)) .

(H3) (Ellipticité) Il existe κ > 0 tel que, pour tous x ∈ \overline{Ω} u ∈ ℝ, p ∈ ℝ^{N}, M, N ∈ S_{N}(ℝ) avec N ≥ 0

F (M + N, p, u, x) − F (M, p, u, x) ≥ κTr(N) .

Il est facile de montrer que (H2) et (H3) impliquent (H1) et y sont équivalentes lorsque F ne dépend pas de x.

Etant donnée une matrice M = (m_{ij}) ∈ S_{N}(ℝ) on note avec M^{(k)} la matrice obtenue de M en remplaçant m_{ik} et m_{kj} par −m_{ik} et −m_{kj} respectivement, pour chaque i ≠ k, j ≠ k. Il est clair que M et M^{(k)} ont toujours les mêmes valeurs propres. De plus, pour chaque vecteur p ∈ ℝ^{N} on pose p^{(k)} = (p_{1}, …, p_{k−1}, −p_{k}, p_{k+1}, …, p_{N}).

On utilisera les hypothèses d’invariance suivantes. (O_{k}) Ω est convexe dans la direction x_{k}, symétrique par rapport à l’hyper-

plan {x_{k} = 0}, et pour tous M ∈ S^{n}(ℝ), p ∈ ℝ^{N}, u ∈ (0, ∞), x ∈ Ω, :

F (M, p, u, x) = F (M^{(k)}, p^{(k)}, u, x^{(k)}),

et F est décroissante au sens large par rapport à x_{k} si x_{k} > 0.

(O) Ω est une boule B centrée à l’origine, ou Ω = ℝ^{N}, ou Ω = ℝ^{N} \ B et pour tous M ∈ S^{n}(ℝ), p ∈ ℝ^{N}, u ∈ (0, ∞), x ∈ Ω, et tout k :

F (M, p, u, x) = F (M^{(k)}, p^{(k)}, u, x^{(k)}),

et F est décroissante au sens large par rapport à x_{k} si x_{k} > 0.

Alors nous avons l’extension suivante du théorème de Gidas-Ni-Nirenberg.

Théorème 34 Supposons que Ω ⊂ ℝ^{N} est borné, et que (H2), (H3), et (O_{k}) sont vérifiées, pour un certain k ∈ \{1, …, N\}. Soit u ∈ C(\overline{Ω}) une solution de viscosité de (82). Alors u est symétrique par rapport à x_{k}, c’est-à-dire, u(x) = u(x^{(k)}) pour chaque x ∈ Ω. En plus, u est strictement décroissante par rapport à x_{k} > 0.

Corollary 35 Supposons que Ω est une boule centrée à l’origine, F est radiale en x et décroissante en |x|, et satisfait (H2), (H3), et (O). Alors toute solution de viscosité de (82) est radiale et strictement décroissante en |x|.

Nous avons aussi obtenu des résultats de symétrie dans des domaines non-bornés. Dans [14] Badiale et Bardi ont montré que les solutions positives d’une large classe d’équations elliptiques dans ℝ^{N} sont asymptotiquement radiales, c’est-à-dire, les ensembles de niveau des solutions s’approchent à des spheres lorsque |x| → ∞. Les théorèmes suivants complètent ces résultats pour des équations uniformément elliptiques et pour des domaines symétriques, auquel cas nous sommes en mesure de montrer que tous les ensembles de niveau sont des sphères.

Théorème 36 Supposons que F ne dépend pas de x, satisfait (H1) et (O), et que F est décroissante en u si u ∈ [0, δ), pour un certain δ > 0. Soit u ∈ C(ℝ^{N}) une solution de viscosité de

\{ \begin{matrix}F (D^{2}u, Du, u) & = & 0 & dans & ℝ^{N} \\ u & > & 0 & dans & ℝ^{N} \\ u & → & 0 & lorsque & |x| → ∞. \end{matrix}  (84)

Alors u est radiale et strictement décroissante en |x|.

Le Théorème 36 peut être obtenu comme cas particulier du résultat suivant, qui concerne des domaines extérieurs.

Théorème 37 Supposons que Ω = ℝ^{N} \ B où B est une boule, F ne dépend pas de x, satisfait (H1) et (O), et que F est décroissante en u si u ∈ [0, δ), pour un certain δ > 0. Soit u ∈ C(\overline{Ω}) une solution de viscosité de

\{ \begin{matrix}F (D^{2}u, Du, u) & = & 0 & dans & Ω \\ u & > & 0 & dans & Ω \\ u & = & a & sur & ∂B \\ u & → & 0 & lorsque & |x| → ∞, \end{matrix}  (85)

pour un certain a > 0. On suppose en plus que pour chaque x ∈ ∂B et pour chaque direction ν ∈ ℝ^{N} \ {0} tels que ν · n(x) > 0, n(x) = x/|x|, on a

lim sup_{t↘0} \frac{u(x + tν) − u(x)}{t} ≤ 0 .  (86)

Alors u est radiale et strictement décroissante en |x|.

Dans la preuve de ces résultats nous démontrons et utilisons le fait que sous (H2)-(H3) la différence entre une sur-solution et une sous-solution de (82) est une sur-solution d’une équation où apparaît un opérateur uniformément elliptique et positivement homogène d’ordre 1, à qui s’appliquent les résultats du Chapitre 1.

Proposition 2 Soit F satisfaisant (H1) − (H2). Soient u_{1} semi-continue supérieurement (resp. u_{2} semi-continue inférieurement) une sous-solution (resp. sur-solution) de F (D^{2}u, Du, u, x) = 0 dans Ω. Alors il existe des constantes positives λ, Λ, b (dependant des normes L^{∞} de u_{1} et de u_{2}) et une fonction bornée c(x) (dont la norme L^{∞} depend seulement des normes L^{∞} de u_{1} et u_{2}, ainsi que d’une norme locale C^{0,1} de F par rapport à u sur la réunion des images de u_{1}, u_{2}) telles que la fonction w = u_{2} − u_{1} est une sur − solution de viscosité de

M_{λ,Λ}^{−}(D^{2}w) − b|Dw| + c(x)w = 0 dans Ω.  (87)

Si en plus F est décroissante par rapport à u, alors c ≤ 0 dans Ω.

4.5 Un résultat de monotonie pour les systèmes

L’application de méthodes de degré topologique pour montrer l’existence de solutions d’un problème aux limites dépend fortement de la possibilité d’établir des estimations à priori pour les solutions éventuelles du problème (voir Section 2 où ces questions sont discutées en détail). Une méthode très puissante pour montrer des estimations à priori pour les solutions régulières est due à Gidas et Spruck. Elle repose sur la technique de "blow-up", qui consiste à ramener le problème à un théorème de type Liouville, c’est-à-dire de non-existence de solutions dans ℝ^{N} ou dans un demi-espace de ℝ^{N}.

Une idée de Dancer [53] permet de lier la non-existence de solutions dans un demi-espace à un résultat de monotonie dans le demi-espace. Plus exactement, si une solution dans {x ∈ ℝ^{N} : x_{N} > 0} est monotone en x_{N}, alors par passage à la limite x_{N} → ∞ on obtient une solution dans ℝ^{N−1} et on utilise les théorèmes de Liouville dans l’espace entier. Dans une partie de l’article [FS1] (certains développement peuvent être trouvés dans [S9]) nous avons obtenu un résultat de monotonie pour les systèmes, qui joue un rôle primordial dans les théorèmes d’existence et d’estimations à priori, qui y sont établis.

Nous décrirons ce résultat dans cette section. On considère le système

\{ \begin{matrix}Δu_{1} + f_{1}(u_{1}, u_{2}) & = & 0 \\ Δu_{2} + f_{2}(u_{1}, u_{2}) & = & 0, \end{matrix}  (88)

où f_{i} ∈ C^{1}(ℝ^{2}), i = 1, 2,

\frac{∂f_{i}}{∂u_{j}} (u⃗) ≥ 0  for all i ≠ j, u⃗ ∈ ℝ^{2},  (89)

et

f_{1}(u_{1}, u_{2}) = u_{2}^{p} + g_{1}(u_{1}, u_{2})u_{1},  f_{2}(u_{1}, u_{2}) = u_{1}^{q} + g_{2}(u_{1}, u_{2})u_{2}, (90)

pour p, q ≥ 1, pq > 1 et des fonctions continues g_{1}, g_{2}, avec croissance polynomiale en u_{1}, u_{2}. Les résultats se généralisent à des systèmes de plusieurs équations, comme dans [S9].

Théorème 38 Supposons qu’on ait une solution non-triviale positive bornée de (88) dans ℝ_{+}^{N} = {x ∈ ℝ^{N} | x_{N} > 0}, telle que u_{1} = u_{2} = 0 sur ∂ℝ_{+}^{N}. On suppose que (89) et (90) sont vérifiées. Alors

\frac{∂u_{i}}{∂x_{N}} > 0 dans ℝ_{+}^{N}, i = 1, 2.  (91)

Ce théorème étend aux systèmes des résultats de monotonie de Dancer et Berestycki-Caffarelli-Nirenberg pour les équations scalaires. Sa preuve est basée sur la méthode de déplacement d’hyperplans. L’application de cette méthode dans un domaine non-borné de type demi-espace est assez délicate, et utilise un principe de maximum dans des domaines étroits (voir [36],[37]) et l’inégalité de Harnack que nous avons établi dans [BS2]. C’est cette dernière inégalité qui crée le plus de problèmes dans le cas d’un système, car la constante dans l’inégalité dépend du couplage dans le système, et ce couplage peut dégénérer lors de la procedure de déplacement d’hyperplans. Ceci nous a conduit à établir des variantes de l’inégalité de Harnack pour des systèmes, où l’on décrit de manière plus exacte la dépendance de la constante du couplage.

Nous avons montré les inégalités suivantes, qui sont aussi d’un intérêt indépendant.

Théorème 39 Soit (u_{1}, u_{2}) une solution positive de (88) dans un domaine G quelconque. On suppose (89) et (90). Soit K un compact dans G et

max { inf_{x∈K} u_{1}, inf_{x∈K} u_{2}} ≤ 1, max {sup_{x∈G} u_{1}, sup_{x∈G} u_{2}} ≤ M.

Alors

sup_{x∈K} max\{u_{1}, u_{2}\} ≤ C min \{( inf_{x∈K} u_{1})^{\frac{1}{p}} , ( inf_{x∈K} u_{2})^{\frac{1}{q}} \} .

où C dépend seulement de N, M, K, G.

Théorème 40 Soient a, b, c, d ∈ L^{∞}(B_{2}) tels que |a|, |d| ≤ A, et 0 ≤ b ≤ A, 0 ≤ c ≤ A dans une boule B_{2} de rayon 2. Soit (u_{1}, u_{2}) une solution positive de

\{ \begin{matrix}Δu_{1} + a(x)u_{1} + b(x)u_{2} & = & 0 \\ Δu_{2} + c(x)u_{1} + d(x)u_{2} & = & 0 \end{matrix}

dans B_{2}. On suppose en plus que b(x) est bornée inférieurement par une constante strictement positive sur la boule concentrique B_{1} de rayon 1. Alors

sup_{x∈B_{1}} u_{1} ≤ C inf_{x∈B_{1}} u_{1}.  (92)

où la constante C dépend de N, A, et d’une borne supérieure pour \frac{sup_{B_{2}} b}{inf_{B_{1}} b}.

Le théorème 38 s’étend au cas où le Laplacien dans (88) est remplacé par un opérateur extremal (par exemple un opérateur de Pucci) et on considère des solutions de viscosité de (88). Ceci est démontré et joue un rôle important dans l’article [QS5].

Le Théorème 38 a posé la question de la nécessité de l’hypothèse (90), dont nous avons eu besoin pour appliquer l’inégalité de Harnack. Très récemment N. Dancer [54] a montré que le résultat de monotonie reste vrai pour des systèmes de deux équations plus généraux.

Liste des articles

[BS1] (avec J. Busca) Symmetry results for semilinear elliptic systems in the whole space, Journal of Differential Equations 163 (2000), no. 1, 41-56.

[S1] On the existence of solutions of elliptic systems in ℝ^{N}, Advances in Differential Equations 5 (2000), no. 10-12, 1445-1464.

[S2] Existence and multiplicity of solutions of semilinear elliptic equations in ℝ^{N}, Calculus of Variations and Partial Differential Equations 11 (2000), no. 2, 119-142.

[S3] Symmetry for exterior elliptic problems and two conjectures in potential theory, Annales de l’Institut Henri Poincaré, Analyse Non-Linéaire 18 (2001), no. 2, 135-156.

[S4] Standing wave solutions of the nonlinear Schrödinger equation in ℝ^{N}, Annali di Matematica Pura ed Applicata 181 (2002), no. 1, 73-83.

[S5] Overdetermined elliptic problems in physics, in Nonlinear PDE’s in Condensed Matter and Reactive Flows, NATO Science Series C, volume 569, Kluwer (2002).

[BS2] (avec J. Busca) Harnack type estimates for nonlinear elliptic systems and applications, Annales de l’Institut Henri Poincaré, Analyse Non-Linéaire 21 (2004), no. 5, 543-590.

[S6] Notions of superlinearity and sublinearity for nonlinear elliptic systems, Discrete and Continuous Dynamical Systems A 13 (2005), no. 1, 163-174.

[FS1] (avec D.G. de Figueiredo) Liouville type theorems, monotonicity results and a priori bounds for positive solutions of elliptic systems, Mathematische Annalen 333 (2005), 231-260.

[QS1] (avec A. Quaas) On the principal eigenvalue and the Dirichlet problem for fully nonlinear operators, Comptes Rendus de l’Académie des Sciences, Série 1 342 (2006), 115-118.

[QS2] (avec A. Quaas) Existence results for nonproper elliptic equations involving the Pucci operator, Communications in Partial Differential Equations, 31 (2006), 987-1003.

[LS] (avec F. da Lio) Symmetry results for viscosity solutions of fully nonlinear uniformly elliptic equations, Journal of the European Mathematical Society, 9 (2007), no.2, 317-330.

[S7] Least-energy solitary waves for a system of nonlinear Schrödinger equations in ℝ^{N}, Communications in Mathematical Physics, 271 (2007), 199-221.

[FS2] (avec D.G. de Figueiredo) On the Ambrosetti-Prodi problem for nonvariational elliptic systems, Journal of Differential Equations, 240 (2007), no. 2, 357-374.

[S9] Existence results and a priori bounds for higher order elliptic equations and systems, à paraître dans Journal de Mathématiques Pures et Appliquées.

[QS3] (avec A. Quaas) The principal eigenvalue and the Dirichlet problem for fully nonlinear operators, à paraître dans Advances in Mathematics.

[QS4] (avec A. Quaas) Solvability of monotone systems of fully nonlinear elliptic PDE’s, soumis.

[S8] Non uniqueness for the Dirichlet problem for fully nonlinear operators, soumis.

[S10] Solvability of fully nonlinear elliptic equations with natural growth and unbounded coefficients, soumis.

[MS] (avec S. Monari) Soliton solutions to systems of coupled Schrödinger equations, soumis.

[QS5] (avec A. Quaas) Existence and non-existence results for weakly coupled elliptic systems, prépublication.

[S11] On the symmetry of Stokes waves, prépublication.

Bibliographie

[1] Akhmediev N., Ankiewicz A. : Partially coherent solitons on a finite background. Phys. Rev. Lett. 82, 2661-2664 (1999)

[2] Alessandrini G. A symmetry theorem for condensers. Math. Meth. Appl. Sc. 15 :315-320, (1992).

[3] Alexandrov A. A characteristic property of the spheres. Ann. Math. Pura Appl. 58 :303-354, (1962).

[4] A. Alexandrov, Uniqueness conditions and estimates for the solution of the Dirichlet problem, Trans. AMS Transl. 68 (1968), 89-119.

[5] H. Amann, Fixed point equation and nonlinear eigenvalue problems in ordered Banach spaces, SIAM Review, 18 (1976), 620-709.

[6] Ambrosetti A., Badiale M., Cingolani S. Semiclassical states of nonlinear Schrodinger equations. Arch. Rat. Mech. Anal. 140 :285-300, (1997).

[7] A. Ambrosetti, H. Brezis, G. Cerami, Combined effects of concave and convex nonlinearities in some elliptic problems, J. Funct. Anal. 122 (1994), 519-543.

[8] A. Ambrosetti, G. Prodi, On the inversion of some differentiable mappings with singularities between Banach spaces. Ann. Mat. Pura Appl.

(4) 93 (1972), 231–246.

[9] Ambrosetti A., Rabinowitz P. Dual variational methods in critical point theory and applications. J. Funct. Anal. 14 :349-381 (1973).

[10] A. Arapostathis, M. Ghosh, St. Marcus Harnack’s inequality for cooperative weakly coupled elliptic systems, Comm. Part. Diff. Eq. 24 (1999), 1555-1571.

[11] D. Arcoya, D. Ruiz, The Ambrosetti-Prodi problem for the p-Laplacian, Comm. Part. Diff. Eq. 31 (2006), 841-865.

[12] Badiale, M. Geometrical properties of fully nonlinear equations and an application to singularities. J. Differential Equations 112 (1994), no. 1, 33–52.

[13] Badiale, M.,Bardi, M. Symmetry properties of solutions of Hamilton-Jacobi equations without uniqueness. Nonlinear Anal. 15 (1990), no. 11, 1031–1043.

[14] Badiale, M., Bardi, M. Asymptotic symmetry of solutions of nonlinear partial differential equations. Comm. Pure Appl. Math. 45 (1992), no. 7, 899–921.

[15] I. Bakelman, Theory of quasilinear equations, (Russian) Sibirsk. Math. 2 (1961), 179-186.

[16] Bardi M., Da Lio F. On the strong maximum principle for fully nonlinear degenerate elliptic equations. Arch. Math. (Basel) 73 (1999), 276-285.

[17] G. Barles, A. Blanc, C. Georgelin, M. Kobylanski, Remarks on the maximum principle for nonlinear elliptic PDEs with quadratic growth conditions. Ann. Sc. Norm. Sup. Pisa (4) 28 (1999), no. 3, 381–404.

[18] G. Barles, F. Murat, Uniqueness and the maximum principle for quasilinear elliptic equations with quadratic growth conditions. Arch. Rat. Mech. Anal. 133 (1995), no. 1, 77–101.

[19] Bartsch T. , Peng S., Zhang Z. Existence and non-existence of solutions to elliptic equations related to the Caffarelli-Kohn-Nirenberg inequalities, Calc. Var. PDE 30(1) (2007), 113-136.

[20] Bartsch T., Wang Z.Q. Existence and multiplicity results for some superlinear elliptic problems on ℝ^{N}. Comm. Part. Diff. Eq. 20(9&10) :1725-1741, (1995).

[21] Bartsch T., Willem M. Infinitely many nonradial solutions of a Euclidean scalar field equation. J.Funct. Anal. 117 :447-460, (1993).

[22] Bartsch T., Willem M. Infinitely many radial solutions of a semilinear elliptic problem on ℝ^{N}. Arch. Rat. Mech. Anal. 124 :261-276, (1993).

[23] H. Berestycki, On some nonlinear Sturm-Liouville problems, J. Diff. Eq. 26 (1977), 375-390.

[24] Berestycki H. , Lions P.L. Nonlinear scalar field equations. Arch. Rat. Mech. Anal. 82 :313-379, (1983).

[25] Berestycki H., Nirenberg L. On the method of moving planes and the sliding method. Bull. Soc. Brazil Mat. Nova Ser. 22 :1-37, (1991).

[26] Berestycki H. ; Nirenberg L. ; Varadhan S. The principal eigenvalue and maximum principle for second order elliptic operators in general domains, Comm. Pure Appl. Math. 47(1) (1994), 47-92.

[27] I. Birindelli, F. Demengel, First eigenvalue and maximum principle for fully nonlinear singular operators. Adv. Diff. Eq. 11 (1) (2006), 91-119.

[28] I. Birindelli, E. Mitidieri, Liouville theorems for elliptic inequalities and inequations, Proc. Royal Soc. Edinburgh, 128A(1998), 1217-1247.

[29] I. Birindelli, E. Mitidieri, G. Sweers Existence of the principal eigenfunction for cooperative elliptic systems in a general domain, Differential Equations (Differ. Uravn.) 35 (1999), no. 3.

[30] L. Boccardo, F. Murat, J.-P. Puel, Résultats d’existence pour certains problèmes elliptiques quasilinéaires. Ann. Scuola Norm. Sup. Pisa Cl. Sci. (4) 11 (1984), no. 2, 213–235.

[31] H. Brézis, R.E.L. Turner, On a class of superlinear elliptic problems, Comm. Part. Diff. Eq. 2 (1977), 601-614.

[32] Buljan H., Schwartz T., Segev M., Soljacic M., Christoudoulides D. : Polychromatic partially spatially incoherent solitons in a noninstantaneous Kerr nonlinear medium. J. Opt. Soc. Am. B. 21 (2), 397-404 (2004)

[33] J. Busca, M. Esteban, A. Quaas, Nonlinear eigenvalues and bifurcation problems for Pucci’s operator, Ann. Inst. H. Poincaré, Anal. Nonl. 22 (2) (2005), 187-206.

[34] J. Busca, R. Manasevich, A Liouville type theorem for Lane-Emden systems. Indiana Univ. Math. J. 51(1) (2002), 37-51.

[35] Byeon, J. ; Wang, Z-Q. Standing waves with a critical frequency for nonlinear Schrödinger equations. Arch. Ration. Mech. Anal. 165 (2002), no. 4, 295–316.

[36] X. Cabre, On the Alexandrov-Bakelman-Pucci estimate and the reversed Hölder inequality for solutions of elliptic and parabolic equations, Comm. Pure Appl. Math. 48 (1995), 539-570.

[37] X. Cabre, Topics in regularity and qualitative properties of solutions of nonlinear elliptic equations, Discr. Cont. Dyn. Syst. 8 (2002), 331-359.

[38] L.A. Caffarelli, Interior estimates for fully nonlinear elliptic equations, Ann. Math. 130 (1989), 189-213.

[39] Caffarelli L., Cabre X. Fully Nonlinear Elliptic Equations, American Mathematical Society, Colloquium Publication, Vol. 43, 1995.

[40] L. Caffarelli, M.G. Crandall , M.Kocan , A. Świech On viscosity solutions of fully nonlinear equations with measurable ingredients, Comm. Pure Appl. Math 49 (1996), 365–397.

[41] Castro A., Shivaji R. Nonnegative solutions to a semilinear Dirichlet problem in a ball are positive and radially symmetric. Comm. Part. Diff. Eq. 14(8&9) :1091-1100, (1989).

[42] Christodoulides D., Eugenieva E., Coskun T., Mitchell M., Segev M. : Equivalence of three approaches describing partially incoherent wave propagation in inertial nonlinear media. Phys. Rev. E 63, 035601 (2001)

[43] Clement Ph., de Figueiredo D.G., Mitidieri E. Positive solutions of semilinear elliptic systems. Comm. Part. Diff. Eq. 17 :923-940, (1992).

[44] Chang, K. C. Ambrosetti-Prodi type results in elliptic systems. Nonl. Anal. 51 (2002), no. 4, 553–566.

[45] W.X. Chen, C. Li, Classification of solutions of some nonlinear elliptic equations, Duke Math. J. 63 (1991), 615-623.

[46] Z.Q. Chen, Z. Zhao, Harnack principle for weakly coupled elliptic systems, J. Diff. Eq. 139 (1997), 261–282.

[47] Costa D.G. On a class of elliptic systems in ℝ^{N}. Elec. J. Diff. Eq. 7 :1-14, (1994).

[48] Costa D.G. , Magalhaes C.A. A unified approach to strongly indefinite functionals. J. Diff. Eq. 122 :521-547, (1996).

[49] Crandall M.G. , Ishii, H., P.L. Lions P.L. User’s guide to viscosity solutions of second order partial differential equations, Bull. Amer. Math. Soc. 27 (1992), 1–67.

[50] M.G. Crandall, M. Kocan, P.L. Lions, A. Świech, Existence results for boundary problems for uniformly elliptic and parabolic fully nonlinear equations, Elec. J. Diff. Eq. 24 (1999), 1-20.

[51] A. Cutri, F. Leoni, On the Liouville property for fully nonlinear equations. Ann Inst. Henri Poicaré, Analyse non linéaire 17 (2000), 219-245.

[52] E.N. Dancer, On the ranges of certain weakly nonlinear elliptic partial differential equations. J. Math. Pures Appl. 57 (1978), no. 4, 351–366.

[53] E.N. Dancer Some notes on the method of moving planes. Bull. Austral. Math. Soc. 46 (1992), 425-434.

[54] E.N. Dancer, Moving plane methods for systems on half spaces, prépublication.

[55] del Pino M. , Felmer P. Local mountain passes for semilinear elliptic problems in unbounded domains. Calc. Var. PDE 4 :121-137, (1996).

[56] del Pino M., Felmer P. Semiclassical states for nonlinear Schrodinger equations. J.Funct. Anal. 149 :245-265, (1997).

[57] Ding Y. , Li S. Existence of entire solutions for some elliptic systems. Bull. Austral. Math. Soc. 50 :501-519, (1994).

[58] Ding W.-Y. , Ni W.-M. On the existence of positive entire solutions of a semilinear elliptic equation. Arch. Rat. Mech. Anal. 91 : 183-308, (1986).

[59] L.C. Evans, Classical solutions of fully nonlinear, convex, second-order elliptic equations, Comm. Pure Appl. Math. 25 (1982), 333-363.

[60] P. Felmer, A. Quaas, On Critical exponents for the Pucci’s extremal operators, Ann. Inst. Henri Poincaré (C) Non Linear Analysis, 20, 5, 2003, 843-865.

[61] P. Felmer, A. Quaas, Critical exponents for uniformly elliptic extremal operators, Indiana Univ. Math. J., 55, 2, 2006, 593-629.

[62] P. Felmer, A. Quaas ,On fundamental solutions, dimension and two properties of uniformly elliptic maximal operators, to appear in Transactions of the AMS.

[63] Felmer, P. , Quaas A. Positive solutions to “semilinear” equation involving the Pucci’s operator, J. Diff. Eq. 199(2), (2004), 376-393.

[64] V. Ferone, F. Murat, Nonlinear problems having natural growth in the gradient : an existence result when the source terms are small. Nonl. Anal. TMA 42(7) (2000), 1309–1326.

[65] de Figueiredo, D. Nonlinear elliptic systems. Anais Acad. Brasil. Ciênc. 72(4) (2000), 453-469.

[66] de Figueiredo D.G., Felmer P. On superquadratic elliptic systems. Trans. Amer. Math. Soc. 102 :188-207, (1994).

[67] D.G. de Figueiredo, P.L. Lions, R. Nussbaum, Apriori estimates and existence of positive solutions of semilinear elliptic equations, J. Math. Pures Appl. 61 (1982), 41-63.

[68] D.G.de Figueiredo, S. Solimini, A variational approach to superlinear elliptic problems. Comm. Part. Diff. Eq. 9 (1984), no. 7, 699–717.

[69] de Figueiredo D.G. , Yang J. Decay, symmetry and existence of positive solutions of semilinear elliptic systems. Nonl. Anal. TMA 33(3) :211-234, (1998).

[70] Floer A., Weinstein A. Non-spreading wave packets for the cubic Schrödinger equation with a bounded potential. J. Funct. Anal. 69 :397-408, (1986).

[71] K. Fok, Some Maximum Principles and continuity estimates for fully nonlinear elliptic equations of second order, Ph.D. thesis, University of California at Santa Barbara, 1996.

[72] B. Gidas, J. Spruck, A priori bounds for positive solutions of nonlinear elliptic equations. Comm. Part. Diff. Eq. (6) (1981), 883-901.

[73] Gidas B., Ni W.M., Nirenberg L. Symmetry and related properties via the maximum principle. Comm. Math. Phys. 68 :209-243, (1979).

[74] Gilbarg D., Trudinger N. Elliptic partial differential equations of second order, Second Edition, Springer-Verlag.

[75] N. Grenon, F. Murat, A. Porretta, Existence and a priori estimate for elliptic problems with subquadratic gradient dependent terms. C. R. Math. Acad. Sci. Paris 342 (2006), no. 1, 23–28.

[76] Gui C. Existence of multi-bump solutions for nonlinear Schrödinger equations via variational methods. Comm. Part. Diff. Eq. 21 :787-820, (1996).

[77] F. Hamel, N. Nadirashvili, E. Russ, An isoperimetric inequality for the principal eigenvalue of the Laplacian with drift, C. R. Acad. Sci. Paris Ser. I 340 (2005), 347-352.

[78] Hioe F.T. : Solitary waves for N coupled nonlinear Schrödinger equations. Phys. Rev. Lett. 82, 1152-1155 (1999)

[79] Hulshof J., van der Vorst R.C.A.M. Differential systems with strongly indefinite variational structure. J. Funct. Anal. 114 :32-58, (1993).

[80] H. Ishii, S. Koike, Viscosity solutions for monotone systems of secondorder elliptic PDE’s, Comm. Part. Diff. Eq. 16(6-7) (1991), 1095-1128.

[81] H. Ishii, Y. Yoshimura, Demi-eigenvalues for uniformly elliptic Isaac operators, prépublication.

[82] R. Jensen, The maximum principle for viscosity solutions of fully nonlinear seoncd order partial differential equations, Arch. Rat. Mech. Anal. 101 (1988), 1 - 27.

[83] S. Koike, A. Swiech, Maximum principle and existence of L^{p}-viscosity solutions for fully nonlinear uniformly elliptic equations with measurable and quadratic term, NoDEA Appl. 11 (2004), 491-509.

[84] M.A. Krasnoselskii, Positive solutions of operator equations, P. Noordhoff, Groningen.

[85] Krylov N., Nonlinear elliptic and parabolic equations of second order, Mathematics and and its Appl. Reidel (1987).

[86] N.V. Krylov, M. Safonov, A property of the solutions of parabolic equations with measurable coefficients, Math USSR-Izv. 19 (1980) 151-164.

[87] Kutuzov V., Petnikova V.M., Shuvalov V.V., Vysloukh V.A. : Crossmodulation coupling of incoherent soliton modes in photorefractive crystals. Phys. Rev. E 57, 6056-6065 (1998).

[88] O. Ladizhenskaya, N. Uraltseva, Linear and quasilinear equations of elliptic type, Academic Press, New York-London, 1968.

[89] Leray, J. ; Schauder, J. ; Topologie et équations fonctionnelles. Ann. Sci. École Norm. Sup. 51(3) (1934), 45-78.

[90] Li C. Monotonicity and symmetry of solutions of fully nonlinear elliptic equations on unbounded domains. Comm. Part. Diff. Eq. 16 :585-615, (1991).

[91] Li S., Willem M. Applications of local linking to critical point theory. J. Math. Anal. Appl. 189 :6-32, (1995).

[92] Li Y. Nonautonomous scalar field equations. Indiana Univ. Math. J. 39 :283-301, (1990).

[93] Li Y. On a singularly perturbed equation. Adv. Diff. Eq. 2(6) :955-980, (1997).

[94] Y. Li, W.-M. Ni, Radial symmetry of positive solutions of nonlinear elliptic equations, Comm. Part. Diff. Eq. 18 (1993), 1043-1054.

[95] Lin T.C., Wei J. : Ground state of N coupled nonlinear Schrödinger equations in ℝ^{N}, N ≤ 3. Comm. Math. Phys. 255, 629-653 (2005), voir aussi Erratum, à paraître.

[96] Lin T.C., Wei J. : Spikes in two coupled nonlinear Schrödinger equations. Ann. Inst. H. Poincaré, Anal. Non-Lin. 22 (4), 403-439 (2005).

[97] P.L. Lions, Bifurcation and optimal stochastic control, Nonl. Anal. Th. and Appl. 7(2) (1983), 177-207.

[98] Lions, P.-L. On the existence of positive solutions of semilinear elliptic equations. SIAM Review 24(4) (1982), 441-467.

[99] Lions P.L. The concentration-compactness principle in the calculus of variations. The locally compact case. Ann. Inst. H. Poincaré Anal. Nonlin. 1 :223-283, (1984).

[100] Lions P.L. Symétrie et compacité dans les espaces de Sobolev. J. Funct. Anal. 49 :315-334, (1982).

[101] P.L. Lions, Résolution analytique des problèmes de Bellman-Dirichlet, Acta Math. 146 (1981), 151-166.

[102] Manakov S.V. : On the theory of two-dimensional stationary selffocusing of electromagnetic waves. J. Exp. Th. Phys. 38, 248-256 (1974).

[103] J. Mawhin, Leray-Schauder degree : a half-century of extensions and applications, Topol. Meth. Nonl. Anal. 14(2) (1999), 195-228.

[104] Myshkis A.D. et al. Low gravity fluid mechanics. Mathematical theory of capillary phenomena, Springer-Verlag (English translation), (1987).

[105] E. Mitidieri, S. Pohozaev, A priori estimates and the absence of solutions of nonlinear partial differential equations and inequalities. Tr. Mat. Inst. Steklova 234 (2001), 1–384.

[106] E. Mitidieri, L. Sweers, Weakly coupled elliptic systems and positivity, Math. Nachr. 173 (1995), 259-286.

[107] R. Nussbaum, Positive solutions of nonlinear elliptic boundary value problems, J. Math. Anal. Appl. 51 (1975), 461-482.

[108] Omana W., Willem M. Homoclinic orbits for a class of Hamiltonian systems. Diff. Int. Eq. 5 :1115-1120, (1992).

[109] Oh Y.-G. On positive multi-bump bound states of nonlinear Schrödinger equations under multiple well potential. Comm. Math. Phys. 131 :223-253, (1990).

[110] Pucci, C. Operatori ellittici estremanti, Ann. Mat. Pure Appl. 72 (1966), 141–170.

[111] Pucci P. and Serrin J. A general variational identity. Indiana Math J. 35, 681-703 (1986).

[112] A. Quaas Existence of a positive solution to a "semilinear" equation involving Pucci’s operator in a convex domain. Diff. Int. Eq. 17 (2004), 481–494.

[113] P. Quittner, P. Souplet, A priori estimates and existence for elliptic systems via bootstrap in weighted Lebesgue spaces. Arch. Rat. Mech. Anal. 174(1) (2004), 49-81.

[114] Rabinowitz P. On a class of non-linear Schrödinger equations. Z. Angew. Math. Phys. 43 :270-291, (1992).

[115] Reichel W. Radial symmetry for elliptic boundary-value problems on exterior domains. Arch. Rat. Mech. Anal. 137 :381-394, (1997).

[116] Serrin J. A symmetry theorem in potential theory. Arch. Rat. Mech. Anal. 43 :304-318, (1971).

[117] Serrin, J. ; Zou, H.Symmetry of ground states of quasilinear elliptic equations. Arch. Rat. Mech. Anal. 148 (1999), 265–290.

[118] Serrin, J. ; Zou, H. Non-existence of positive solutions of Lane-Emden systems. Diff. Int. Eq. 9 (1996), 635–653.

[119] Serrin J. and Zou H. Existence of positive entire solutions of elliptic Hamiltonian systems. Comm. Part. Diff. Eq, 23(3-4)(1998), 577–599.

[120] Shaker A. On symmetry in elliptic systems, Appl. An. 41 :1-9, (1991).

[121] A. Świech, W^{1,p}-estimates for solutions of fully nonlinear uniformly elliptic equations, Adv. Diff. Eq. 2(6) (1997), 1005-1027.

[122] Troy W. Symmetry properties in systems of semilinear elliptic equations, J. Diff. Eq. 42 :400-413 (1981).

[123] N. Trudinger, Local estimates for subsolutions and supersolutions of general second order quasilinear equations, Inv. Math. 61 (1980), 67-79.

[124] L. Wang, On the regularity theory of fully nonlinear parabolic equations : I, Comm. Pure Appl. Math. 45(1) (1992), 27-76.

[125] Wang X. On the concentration of positive bound states of nonlinear Schrödinger equations. Comm. Math. Phys. 153 :229-244, (1993).

[126] Willem M. Minimax methods. Springer, 1996.

[127] Willms N.B., Gladwell G. et Siegel D. Symmetry theorems for some overdetermined boundary-value problems on ring domains. Z. Angew. Math. Phys. 45 :556-579, (1994).

[128] Zakharov V.E., Shabat A.B. : Exact theory of two-dimensional selffocusing and one-dimensional self-modulation of waves in nonlinear media. J. Exp. Th. Phys. 34, 62-69 (1972).

[129] Zou H. A priori estimates and existence for strongly coupled semilinear elliptic systems, Comm. Part. Diff. Eq 31 (2006), 735-773.