[VB.NET] 丸めの方法の違い

2013年12月31日

 VB の CInt で実数を整数にする場合、四捨五入されるのではなく、偶数丸めと呼ばれる方法で丸められます。また、Convert.ToInt32 を使用しても同様の動作をします。
 String.Format などでフォーマットされた場合の値と若干異なるので、要注意です。

 コード

Module Module1
    Sub Main()
        For i = 0.5 To 8.5
            Console.WriteLine("{0:0.0}  {1:0}  {2}", i, i, CInt(i))
        Next
    End Sub
End Module

 結果 (1列目:元の値 / 2列目:String.Format / 3列目:CInt )

0.5  1  0
1.5  2  2
2.5  3  2
3.5  4  4
4.5  5  4
5.5  6  6
6.5  7  6
7.5  8  8
8.5  9  8
続行するには何かキーを押してください . . .





カテゴリー: Program, VB.NET

Follow comments via the RSS Feed | Leave a comment | Trackback URL

コメントを投稿する

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)


«   »
 
Powered by Wordpress and MySQL. Theme by Shlomi Noach, openark.org