修改一下楼上的回答。
回忆一下伴随矩阵的秩。
设A为n阶方阵,A*为A的伴随矩阵。
r(A)=n时,r(A*)=n
r(A)=n-1时,r(A*)=1
r(A)<n-1时,r(A*)=0
由题目条件,A*=A^T,于是r(A*)=r(A^T)=r(A),本题中n=3,所以r(A)=n或r(A)=0,即A要么是可逆矩阵,要么是0矩阵。
因为det(A)E=AA*=AA^T,对两边取行列式得det(A)=det(A)·det(A^T)=(det(A))²,解得det(A)=0或1。
det(A)=0时,A必然不是可逆矩阵,那么A只能是0矩阵,m=0。
det(A)=1时,A为可逆矩阵,特别地,A是正交矩阵。正交矩阵有一个性质,那就是它的任意行向量或列向量均为单位向量。A的第一行为(m,m,m),所以(m,m,m)为单位向量,m²+m²+m²=1,解得m=±1/√3。