Floating point

Xem 1-20 trên 37 kết quả Floating point
  • This chapter only covers the basics. There is an entire science, Numerical Analysis, devoted to studying the behavior of numeric calculations and devising methods to minimize the impact of floating point errors. This chapter does serve as a brief introduction to the subject.

    pdf13p tangtuy15 30-06-2016 12 1   Download

  • Tuyển tập báo cáo các nghiên cứu khoa học quốc tế ngành hóa học dành cho các bạn yêu hóa học tham khảo đề tài: Research Article Word Length Selection Method for Controller Implementation on FPGAs Using the VHDL-2008 Fixed-Point and Floating-Point Packages

    pdf11p sting06 13-02-2012 22 6   Download

  • Tuyển tập báo cáo các nghiên cứu khoa học quốc tế ngành hóa học dành cho các bạn yêu hóa học tham khảo đề tài: Research Article JPEG2000 Compatible Lossless Coding of Floating-Point Data

    pdf8p sting11 09-03-2012 15 3   Download

  • Tuyển tập báo cáo các nghiên cứu khoa học quốc tế ngành hóa học dành cho các bạn yêu hóa học tham khảo đề tài: Research Article Performance Analysis of Bit-Width Reduced Floating-Point Arithmetic Units in FPGAs: A Case Study of Neural Network-Based Face Detector

    pdf11p sting07 18-02-2012 12 2   Download

  • Tuyển tập báo cáo các nghiên cứu khoa học quốc tế ngành hóa học dành cho các bạn yêu hóa học tham khảo đề tài: Research Article An Efficient Implementation of the Sign LMS Algorithm Using Block Floating Point Format

    pdf7p dauphong20 10-03-2012 17 2   Download

  • Lectures "Computer architecture - Chapter 3: Arithmetic for computers" provides learners with the knowledge: Addition and subtraction, multiplication, division, floating point, parallelism and computer arithmetic - Associativity. Invite you to refer to the disclosures.

    pdf54p doinhugiobay_17 01-03-2016 14 1   Download

  • Tham khảo sách 'scaled planar floating gate nand flash memory technology', kỹ thuật - công nghệ, kĩ thuật viễn thông phục vụ nhu cầu học tập, nghiên cứu và làm việc hiệu quả

    pdf173p nt18101 29-04-2013 18 5   Download

  • The purpose of this book is to give the reader a better understanding of how computers really work at a lower level than in programming languages like Pascal. By gaining a deeper understanding of how computers work, the reader can often be much more productive developing software in higher level languages such as C and C++. Learning to program in assembly language is an excellent way to achieve this goal. Other PC assembly language books still teach how to program the 8086 processor that the original PC used in 1980! This book instead discusses how to program the 80386 and later...

    pdf174p nhan4321 29-10-2009 119 48   Download

  • Nền vi xử lý thế hệ mới của Intel ( Core 2 Dual) chính thức được hãng này công bố toàn cầu hôm 28/7/2006 với 10 loại chip cho máy tính để bàn và xách tay. Tích hợp 291 triệu bóng bán dẫn, tiêu thụ điện năng ít hơn 40%, dòng chip được mong đợi từ lâu này có sự hỗ trợ của hơn 550 thiết kế hệ thống - lớn nhất trong lịch sử của Intel.

    doc41p danchoi_107 05-11-2011 117 45   Download

  • Itanium là bộ xử lý 64 bit đầu tiên của Intel được xuất xưởng đúng 10 năm trước để cạnh tranh với nền tảng RISC đang thống trị thị trường máy chủ doanh nghiệp thời kỳ đó. Hợp tác cùng HP đưa ra thị trường dòng CPU dùng cho máy chủ trung và lớn.

    doc34p danchoi_107 05-11-2011 66 19   Download

  • Giới thiệu 2. Các kiểu dữ liệu của đồng xử lý toán 3. Lập trình với đồng xử lý toán 4. Tổ chức đồng xử lý toán 8087 5. Nối ghép đồng xử lý toán 8087 trong máy tính XT .1. Giới thiệu ? Đồng xử lý toán (ĐXLT) còn được gọi là đơn vị dấu phẩy động (Floating Point Unit). ? Chức năng: Hỗ trợ CPU trong việc tính toán các số dấu phẩy động như cộng, trừ, nhân chia số dấu phẩy động, khai căn, lôgarit.... .

    pdf49p hoangclublove 21-02-2013 61 13   Download

  • Bomar, B.W. “Finite Wordlength Effects” Digital Signal Processing Handbook Ed. Vijay K. Madisetti and Douglas B. Williams Boca Raton: CRC Press LLC, 1999 c 1999 by CRC Press LLC .3 Finite Wordlength Effects 3.1 3.2 3.3 3.4 3.5 Introduction Number Representation Fixed-Point Quantization Errors Floating-Point Quantization Errors Roundoff Noise Roundoff Noise in FIR Filters • Roundoff Noise in Fixed-Point IIR Filters • Roundoff Noise in Floating-Point IIR Filters Bruce W. Bomar University of Tennessee Space Institute 3.6 Limit Cycles 3.7 Overflow Oscillations 3.

    pdf19p longmontran 18-01-2010 79 10   Download

  • Arithmetic for Computers: Operations on integers: Addition and subtraction, Multiplication and division, Dealing with overflow. Floating-point real numbers: Representation and operations.

    pdf50p chikien276 13-10-2010 67 9   Download

  • In Unix there are many ways to accomplish a given task. Given a problem to solve, we may be able to get to a solution in any number of ways. Of course, some will be more efficient, be more readable, use less disk space or memory, may or may not give the user feedback on what is going on or give more accurate details and more precision to the result. In this book we are going to step through every detail of writing a shell script to solve real-world Unix problems and tasks. The shell scripts range from using a pseudorandom number generator to create pseudo-random...

    pdf704p tailieuvip13 19-07-2012 33 8   Download

  • Chapter 1 Data Representations This chapter introduces the various formats used by computers for the representation of integers, floating point numbers, and characters.

    pdf6p chabongthitga 25-09-2010 54 5   Download

  • Kiểu dữ liệu PHP (tiếp theo - bon tren) PHP hỗ trợ tám kiểu dữ liệu nguyên thuỷ. Bốn kiểu thông thường là: boolean, integer, floating-point number(float), string. Hai kiểu phức tạp là: mảng( array) và đối tượng ( object). Và cuối cùng là hai kiểu đặc biệt

    pdf7p tuannghia91 13-08-2010 43 4   Download

  • Digital Filter Implementation In this chapter we will delve more deeply into the practical task of using digital filters. We will discuss how to accurately and efficiently implement FIR and IIR filters. You may be asking yourself why this chapter is important. We already know what a digital filter is, and we have (or can find) a program to find the coefficients that satisfy design specifications. We can inexpensively acquire a DSP processor that is so fast that computational efficiency isn’t a concern, and accuracy problems can be eliminated by using floating point processors...

    pdf36p doroxon 16-08-2010 41 4   Download

  • In October 2010, a revolution took place in the world of high-performance com- puting. The Tianhe-1A, constructed by China’s National Supercomputing Center in Tianjin, came from total obscurity to seize the leading position among the world’s best performing supercomputers. With a maximum recorded computing speed of 2,566 TFLOPS (trillion floating-point operations per second), it performs nearly 50 percent faster than the second-place finisher, Cray’s Jaguar supercom- puter.

    pdf458p bongbong_hong 17-12-2012 30 4   Download

  • The numerical stability of the Levinson-Durbin algorithm for solving the Yule-Walker equations with a positive-definite symmetric Toeplitz matrix is studied. Arguments based on the analytic results of an error analysis for fixed-point and floating-point arithmetics show that the algorithm is stable and in fact comparable to the Cholesky algorithm. Conflicting evidence on the accuracy performance of the algorithm is explained by demonstrating that the underlying Toeplitz matrix is typically ill-conditioned in most applications....

    pdf50p duc1988pro 07-04-2013 27 4   Download

  • Microsoft hôm qua (26/9) chính thức thừa nhận phiên bản mới nhất ứng dụng bảng tính Excel 2007 mắc lỗi giá trị điểm chấm động (floating-point value). Lỗi này đã làm dấy lên rất nhiều tranh cãi, và nhiều người dùng đã yêu cầu đòi trả lại tiền đã mua bản quyền Excel 2007. Các chuyên gia phần mềm cho biết lỗi giá trị điểm chấm động đôi khi sẽ khiến Excel bị nhầm và làm tròn sai giá trị nhập vào. ...

    pdf4p tokpokimm 24-07-2013 21 4   Download


Đồng bộ tài khoản