Bu konuda ya benim kafam çok karışık, ya da burada bir şeyler karışmış. GPU'yu kullanmakla, DirectX/OpenGL/OpenCL/WPF kullanmak aynı şey değil. GPU'yu kullanmak sizin yazdığınız bir işlemin (örneğin A[x] := B[X] + C[X] gibi) GPU'da çalışması demektir. Yani herşeye siz karar veriyorsunuz. Oysa DirectX benzeri kütüphanelerde bu işlem mümkün değil. Elbette orada da GPU kullanılıyordur, ama bizim istediğimiz (ya da bu konuda istendiği gibi) değil.
Windows API'leri elbette GPU'da çalışmaz, çünkü ortada GPU yokken de Windows API'leri vardıanonymousdelphicoder yazdı:Bu aciklayici bilgi icin tesekkur ederim merak ettigim nokta win API ler neden gpu uzerinden calismazlar birde gpu uzerinden yazdigimiz kod her pc de calisabilir mi? Ondalikli sayilarin cpu yu neden bukadar yordugunu da pek anlayamadim:)
Saygilarla

GPU kullanacaksanız donanımı direkt kullanacaksınız demektir. O kadar ki ekran kartı üreticisinin kütüphanesini kullanacaksınız. Dolayısıyla donanım desteklemiyorsa program ya çalışmaz, ya da yazılım desteği ile çalışır. Yazılım desteği ile çalıştığı zaman da normalden çok daha yavaş çalışır.
CPU'lar ondalık sayıları yavaş yapar diye bir şey yok. Bu çok bilinen bir "yanlış/eksik" bilgi. Eğer tam sayılarla kıyaslayacak olursak ölçülemeyecek kadar düşük bir performans farkı olabilir (ki INT64 ile double arasında hız farkı olduğunu hiç sanmıyorum), ama asıl sorun bir programcı olarak sizin farkında olmadan yaptığınız veri tipi değişikliği. Kısaca CPU sürekli veri tipi değiştirmek zorunda kalırsa işler yavaşlıyor. Basit bir örnek vereyim:
Kodları kontrol etmeden yazıyorum, compile etmezse şaşırmayın

Kod: Tümünü seç
var
A: Integer;
B: Double;
begin
A := 10;
B := A;
end;

GPU ile CPU'nun çalışma mantığı aynı değil. Ayrıca görevleri de aynı değil. Biz Windows (veya başka bir OS'da) işlem yaparken CPU sadece bizim programımızla değil koca bir işletim sistemi ile meşgul. Oysa GPU sadece kendisine söylenenle ilgileniyor. Yani aslında GPU tek işlem ile ilgileniyor. Oysa CPU (daha doğrusu işletim sistemi), Round Robin'de de anlatıldığı gibi çok zahmetli işlemlerle ilgileniyor.
Benim kişisel görüşüme göre standart bir programcının GPU programcılığına ihtiyacı pek yok. Standart programcılıkta asıl vakit alan veri işlemleri değil, görsel işlemler. Vakit alan veri işlemleri de açıkçası GPU programcılığı ile uğraşacak kadar çok vakit almıyor

İyi çalışmalar