分析:(1)利用函數(shù)是奇函數(shù),建立方程關(guān)系解a,b.(2)利用定義法證明函數(shù)的單調(diào)性.
(3)利用函數(shù)的奇偶性將不等式轉(zhuǎn)化為f(mx2+x-3)>-f(x2-mx+3m)=f(-x2+mx-3m),然后利用單調(diào)性解不等式.
解答:解:(1)∵
f(x)=是R上的奇函數(shù),f(0)=0,
即
=0,解得a=1.
∴
f(x)=,
又f(-1)=-f(1),
∴
=-,∴b=2,經(jīng)檢驗(yàn)符合題意.
∴a=1,b=2.
(2)由(1)可知
f(x)==-+,
設(shè)x
1<x
2,
f(x1)-f(x2)=,
∵y=2
x在R單調(diào)遞增,∴
2x2>2x1>0,
∴f(x
1)>f(x
2),
即f(x)在(-∞,+∞)上為減函數(shù).
(3)∵f(x)在(-∞,+∞)上為減函數(shù),且為奇函數(shù),
∴原不等式等價(jià)為f(mx
2+x-3)>-f(x
2-mx+3m)=f(-x
2+mx-3m),
∴(m+1)x
2+(1-m)x+3(m-1)<0
①m=-1時(shí),不等式2x-6<0,即x<3,不符合題意.
②m≠-1時(shí),要使不等式恒成立,則
,解得
m<-.
綜上,
m<-.
點(diǎn)評:本題主要考查函數(shù)奇偶性的應(yīng)用,利用定義法證明函數(shù)的單調(diào)性,以及函數(shù)單調(diào)性和奇偶性的綜合應(yīng)用,利用函數(shù)的奇偶性將不等式進(jìn)行轉(zhuǎn)化是解決本題的關(guān)鍵.