>ヘッシアンが0で極値をもつ関数には具体的にどの様なものがあるのですか?

つまらない例としてはf(x,y)=(x^2+y^2)^2があります。（これはそもそも２次の項がないので当たり前ですね。）f(x,y)=x^4+y^2なんてのはもう少し微妙ですね。

>その場合の極値判定の解法の一例を挙げてもらえると有り難いです。

判定するためには定義がしっかりしていないといけません。
f(x,y)が(x,y)=(a,b)で極小であるとは、ある正の数rが存在して点(x,y)と点(a,b)の距離がr以下の範囲で、点(a,b)でf(x,y)が最小であることを言う。
という定義を採用しましょう。上に上げた例の場合、rがどんな値でも成り立つ（つまり極小であるだけでなく最小でもある）ので判定といっても簡単ですね。更に微妙な例を作ってみましょう。f(x,y)=x^4-2x^2*y+y^2/2というのはどうでしょうか。(x,y)=(0,0)でfx=fy=0（ただしfxはfのxによる偏微分、fyはfのyによる偏微分。）ヘッシアンも0です。原点を通りx軸とのなす角がthetaであるような直線のパラメタ表示x=t*cos(theta),y=t*sin(theta)をf(x,y)に代入すると、f(t*cos(theta) ,t*sin(theta))=(sin^2(theta))t^2-(2cos^2(theta)sin(theta))t^3+(cos^4(theta))t^4となります。tの函数と思ったとき、t=0での微分は0で、２階微分は２(sin^2(theta))になり、これは直線がx軸に平行な時以外は正になります。つまり直線に沿って考えれば原点が極小になっている。直線がx軸に平行な時は２階微分が0なので２階微分からは判定できませんが、f(t*cos(theta) ,t*sin(theta))=t^4なので矢張り原点で極小です。即ち、原点を通るすべての直線に沿って原点で極小である。しかし、では上で述べた２変数函数の極小の定義に照らし合わせて極小かと言えば、答はnoです。曲線y=x^2に沿って考えるとf(x,y)=f(x,x^2)=-x^4/2であってむしろ極大になっています。どんなに小さい正の数rを取っても例えば(x,y)=(r/2,r^2/4)でのf(x,y)の値は負になります。従ってf(0,0)=0は極小値ではあり得ない。勿論極大値でもありません。
もしわかりにくければ、私または他の数学の先生に会って質問してみて下さい。

>もうひとつ質問なのですが、複素数を成分とするベクトルは存在するのですか？

数学でも「存在する」という言葉を使いますが、これは今考えている集合の中に条件を満たす元があるかどうかを問題にします。君の言っている「存在するのですか？」の意味はこれとは違いますね。ここでは、「複素数を成分とするベクトル、という概念を考えて矛盾のない理論を作ることが出来ますか？」という質問だと考えましょう。答はyesです。実数を成分とするベクトルの時と全く同じように考えることが出来ます。

>また、この様なベクトルはベクトル空間（例えば固有空間）の元になり得るのですか？

複素数を成分とするn成分ベクトルの全体のなす集合は複素数体上のベクトル空間（略して複素ベクトル空間）というものになります。この概念は、ベクトル空間の公理でスカラー倍のところを実数倍に限らず一般に複素数倍が定義されているとしたものです。与えられた行列が実数を成分とする行列でも、固有値が虚数になる場合もありますね。そう言う場合、固有空間を考えたり、固有ベクトルを考えたり、対角化を考えたりするためには、与えられた行列を複素ベクトル空間から自分自身への線型写像と考えねばなりません。