2010-07-20から1日間の記事一覧

0.5 を 四捨五入するときは…

いきなりですが、次のクエリの実行結果どうなると思います? SELECT ROUND(0.5, 0, 0) SELECT ROUND(CAST(0.5 AS float), 0, 0) SELECT ROUND(CAST(0.5 AS real), 0, 0) SELECT ROUND(CAST(0.5 AS decimal(1,1)), 0, 0) 実行結果はこちら。 これのカラクリは…

DECIMAL/NUMERIC 型の演算結果後の有効桁数が良く分からない。。。

MSDN を見ると、こんな感じの表が載っている。有効桁数、小数点以下桁数、および長さ (Transact-SQL) 演算 結果の有効桁数 結果の小数点以下桁数 e1 + e2 max(s1, s2) + max(p1-s1, p2-s2) + 1 max(s1, s2) e1 - e2 max(s1, s2) + max(p1-s1, p2-s2) + 1 max…