![]() |
![]() ![]() |
![]() |
![]()
Post
#1
|
|
Grupa: Zarejestrowani Postów: 675 Pomógł: 58 Dołączył: 17.12.2013 Ostrzeżenie: (10%) ![]() ![]() |
To mam:
771.25 9017.875 112965.0625 A to potrzebuję: 771.25 9017.88 112965.06 |
|
|
![]()
Post
#2
|
|
Grupa: Zarejestrowani Postów: 6 806 Pomógł: 1828 Dołączył: 11.03.2014 Ostrzeżenie: (0%) ![]() ![]() |
|
|
|
![]()
Post
#3
|
|
Grupa: Zarejestrowani Postów: 1 527 Pomógł: 438 Dołączył: 28.06.2011 Skąd: Warszawa Ostrzeżenie: (0%) ![]() ![]() |
HTH (IMG:style_emoticons/default/wink.gif) EDIT: dodałem Math.ceil - kapnąłem się dopiero, że chodzi o zaokrąglanie w gorę (IMG:style_emoticons/default/wink.gif) Ten post edytował Sephirus 7.08.2014, 10:45:46 |
|
|
![]()
Post
#4
|
|
Grupa: Zarejestrowani Postów: 675 Pomógł: 58 Dołączył: 17.12.2013 Ostrzeżenie: (10%) ![]() ![]() |
@Sephirus, no super super ale wyniki są zupełnie inne niż te które podałem Sephirus, nie było by problemu z tym gdyby nie fakt że to dane z macierzy która potem muszę obrócić i pomnożyć przez inną a to właśnie generuję kolosalne w wynikach błędy.
http://www.staff.amu.edu.pl/~zcht/pliki/Aproksymacja.pdf , strona 12. Chodzi o tą tabele i uzyskanie dokładnego wyniku. @trueblue, już nawet z kolegą z pracy oglądamy o co chodzi z tym i patrz: 9017.880000000001 to wynik dla:
edit: a żeby zabawnie było: parseFloat(9017.875).toFixed(2) zwraca 9017.88 można zamknąć Ten post edytował mitorski 7.08.2014, 11:00:39 |
|
|
![]()
Post
#5
|
|
Grupa: Zarejestrowani Postów: 1 527 Pomógł: 438 Dołączył: 28.06.2011 Skąd: Warszawa Ostrzeżenie: (0%) ![]() ![]() |
No tak jak Ci pisałem w kodzie - bez parseFloat to zwraca stringa - i pisałem, że jak mimo wszystko chcesz dalej działać na liczbie to jeszcze trzeba ten parseFloat (IMG:style_emoticons/default/wink.gif)
|
|
|
![]()
Post
#6
|
|
Grupa: Zarejestrowani Postów: 675 Pomógł: 58 Dołączył: 17.12.2013 Ostrzeżenie: (10%) ![]() ![]() |
problem leżał w totalnie innym miejscu, wczoraj do czegoś potrzebowałem na początku skryptu zrobić parseInt więc logicznie ucinał mi liczby po przecinku co miało wpływ na końcowy wynik. no przy debugowaniu znalazłem syf
|
|
|
![]() ![]() |
![]() |
Aktualny czas: 16.09.2025 - 01:02 |