int型の計算について


うっひっひっひ

int型の計算は、int型になってしまう
これはたぶん、超初歩の初歩だと思う

たとえば、

3 / 2

答えはもちろん1.5なのだけど
実はMaxスクリプトではこんな扱われ方はしない

Maxスクリプトでは答えは1

これは、スクリプト側の計算が間違っているのではない
実数で計算がされていないのだ

つまり、実数として扱う必要がある
よって正確に記述する、こんな感じで

3.0 / 2.0

たぶん、前にこんなのメモった記憶がある

で、どうしても取得する数がint型になってしまう場合は

[python]

a = 3;
b = 2;

–floatにする
(a as float) / (b as float)

–1.0をかけてしまう
(a * 1.0) / (b * 1.0)

[/python]

といった具合に、as float でfloatに変換したり
1.0を掛けたりする

こうすうと、ちゃんと1.5という答えを出してくれるぞ
出してくれるぞー

どうでも良いけど、今回のハイライターはパイソン使ってみた

Leave a comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください