]> icculus.org git repositories - dana/openbox.git/blob - loco/loco.c
remove auto redir
[dana/openbox.git] / loco / loco.c
1 /* -*- indent-tabs-mode: nil; tab-width: 4; c-basic-offset: 4; -*-
2
3    loco.c for the Openbox window manager
4    Copyright (c) 2008        Derek Foreman
5    Copyright (c) 2008        Dana Jansens
6
7    This program is free software; you can redistribute it and/or modify
8    it under the terms of the GNU General Public License as published by
9    the Free Software Foundation; either version 2 of the License, or
10    (at your option) any later version.
11
12    This program is distributed in the hope that it will be useful,
13    but WITHOUT ANY WARRANTY; without even the implied warranty of
14    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15    GNU General Public License for more details.
16
17    See the COPYING file for a copy of the GNU General Public License.
18 */
19
20 #include <stdio.h>
21 #include "obt/mainloop.h"
22 #include "obt/display.h"
23 #include "obt/mainloop.h"
24 #include "obt/prop.h"
25 #include <glib.h>
26 #include <GL/glx.h>
27 #include <GL/glext.h>
28 #include <GL/glxext.h>
29 #include <GL/glxtokens.h>
30 /*
31 <dana> you want CreateNotify, DestroyNotify, MapNotify, UnmapNotify, and
32           ConfigureNotify
33           <dana> and then xdamage or whatever
34
35 */
36
37 #define glError()                                      \
38 {                                                      \
39     /*const GLchar *err_file = strrchr(err_path, '/');*/ \
40     GLenum        gl_error = glGetError();             \
41                                                        \
42     /*++err_file;*/                                        \
43                                                        \
44     for (; (gl_error); gl_error = glGetError())        \
45       fprintf(stderr, "%s: %d caught at line %u\n",    \
46               __FUNCTION__, gl_error, __LINE__);       \
47               /*(const GLchar*)gluErrorString(gl_error)*/ \
48 }
49
50
51 #define MAX_DEPTH 32
52
53 typedef struct {
54     Window id;
55     gint x, y, w, h;
56     gint depth;
57     gboolean input_only;
58     gboolean visible;
59     gint type; /* XXX make this an enum */
60     GLuint texname;
61     GLXPixmap glpixmap;
62 } LocoWindow;
63
64 typedef struct _LocoList {
65     struct _LocoList *next;
66     struct _LocoList *prev;
67     LocoWindow *window;
68 } LocoList;
69
70 static Window      loco_root;
71 static Window      loco_overlay;
72 /* Maps X Window ID -> LocoWindow* */
73 static GHashTable *window_map;
74 /* Maps X Window ID -> LocoList* which is in the stacking_top/bottom list */
75 static GHashTable *stacking_map;
76 /* From top to bottom */
77 static LocoList   *stacking_top;
78 static LocoList   *stacking_bottom;
79 static VisualID visualIDs[MAX_DEPTH + 1];
80 static XVisualInfo *glxPixmapVisuals[MAX_DEPTH + 1];
81 static int loco_screen_num;
82
83 void (*BindTexImageEXT)(Display *, GLXDrawable, int, const int *);
84 void (*ReleaseTexImageEXT)(Display *, GLXDrawable, int);
85
86 /*
87 static void print_stacking()
88 {
89     LocoList *it;
90
91     for (it = stacking_top; it; it = it->next) {
92         printf("0x%lx\n", it->window->id);
93     }
94 }
95 */
96
97 int create_glxpixmap(LocoWindow *lw)
98 {
99     XVisualInfo  *visinfo;
100     Pixmap pixmap;
101     static const int attrs[] =
102         {
103             GLX_TEXTURE_FORMAT_EXT, GLX_TEXTURE_FORMAT_RGBA_EXT,
104             None
105         };
106
107     static const int drawable_tfp_attrs[] =
108         {
109             GLX_CONFIG_CAVEAT, GLX_NONE,
110             GLX_DOUBLEBUFFER, False,
111             GLX_DEPTH_SIZE, 0,
112             GLX_RED_SIZE, 1,
113             GLX_GREEN_SIZE, 1,
114             GLX_BLUE_SIZE, 1,
115             GLX_ALPHA_SIZE, 1,
116             GLX_RENDER_TYPE, GLX_RGBA_BIT,
117             GLX_BIND_TO_TEXTURE_RGBA_EXT, True, // additional for tfp
118             None
119         };
120     int count;
121
122     pixmap = XCompositeNameWindowPixmap(obt_display, lw->id);
123     visinfo = glxPixmapVisuals[lw->depth];
124     if (!visinfo) {
125         printf("no visinfo for depth %d\n", lw->depth);
126         return 0;
127     }
128
129     GLXFBConfig fbc;
130     GLXFBConfig *fbconfigs = glXChooseFBConfig(obt_display,
131                                                loco_screen_num,
132                                                drawable_tfp_attrs, &count);
133
134     int i;
135     fbc = 0;
136     for(i = 0; i < count; ++i ) {
137         int value;
138         glXGetFBConfigAttrib(obt_display,
139                              fbconfigs[i], GLX_VISUAL_ID, &value);
140         if(value == (int)visinfo->visualid)
141         {
142             fbc = fbconfigs[i];
143             XFree(fbconfigs);
144         }
145     }
146
147     if (!fbc) {
148         printf("fbconfigless\n");
149         return 0;
150     }
151
152     lw->glpixmap = glXCreatePixmap(obt_display, fbc, pixmap, attrs);
153 }
154
155 int bindPixmapToTexture(LocoWindow *lw)
156 {
157     unsigned int target;
158     int success = 0;
159
160     if (lw->glpixmap == None) {
161         create_glxpixmap(lw);
162     }
163     if (lw->glpixmap == None)
164         return 0;
165 /*
166     if (screen->queryDrawable (screen->display->display,
167                                texture->pixmap,
168                                GLX_TEXTURE_TARGET_EXT,
169                                &target))
170     {
171         fprintf (stderr, "%s: glXQueryDrawable failed\n", programName);
172
173         glXDestroyGLXPixmap (screen->display->display, texture->pixmap);
174         texture->pixmap = None;
175
176         return FALSE;
177     }
178 */
179
180     glBindTexture(GL_TEXTURE_2D, lw->texname);
181 glError();
182     BindTexImageEXT(obt_display, lw->glpixmap, GLX_FRONT_LEFT_EXT, NULL);
183
184     glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_MIN_FILTER, GL_NEAREST);
185     glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_MAG_FILTER, GL_NEAREST);
186
187     glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_WRAP_S, GL_CLAMP_TO_EDGE);
188     glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_WRAP_T, GL_CLAMP_TO_EDGE);
189     glTexEnvi(GL_TEXTURE_ENV, GL_TEXTURE_ENV_MODE, GL_MODULATE);
190     return 1;
191 }
192
193 void destroy_glxpixmap(LocoWindow *lw)
194 {
195     glXDestroyGLXPixmap(obt_display, lw->glpixmap);
196     lw->glpixmap = None;
197 }
198
199
200 void releasePixmapFromTexture (LocoWindow *lw)
201 {
202     if (lw->glpixmap) {
203         glBindTexture(GL_TEXTURE_2D, lw->texname);
204
205         ReleaseTexImageEXT(obt_display, lw->glpixmap, GLX_FRONT_LEFT_EXT);
206
207         glBindTexture(GL_TEXTURE_2D, 0);
208     }
209 }
210
211 static void full_composite(void)
212 {
213     int ret;
214     LocoList *it;
215     glClear(GL_COLOR_BUFFER_BIT);
216     for (it = stacking_bottom; it != stacking_top; it = it->prev) {
217         if (!it->window->visible)
218             continue;
219         if ((it->window->w > 1000) || (it->window->h > 1000)) {
220             printf("I am afraid of window 0x%x because it is very large\n", it->window->id);
221             continue;
222         }
223         ret = bindPixmapToTexture(it->window);
224         glBegin(GL_QUADS);
225         glColor3f(1.0, 1.0, 1.0);
226         glVertex2i(it->window->x, it->window->y);
227         glTexCoord2f(1, 0);
228         glVertex2i(it->window->x + it->window->w, it->window->y);
229         glTexCoord2f(1, 1);
230         glVertex2i(it->window->x + it->window->w, it->window->y + it->window->h);
231         glTexCoord2f(0, 1);
232         glVertex2i(it->window->x, it->window->y + it->window->h);
233         glTexCoord2f(0, 0);
234         glEnd();
235 //      releasePixmapFromTexture(it->window);
236     }
237     glXSwapBuffers(obt_display, loco_overlay);
238 }
239
240 static LocoList* loco_list_prepend(LocoList **top, LocoList **bottom,
241                                    LocoWindow *window)
242 {
243     LocoList *n = g_new(LocoList, 1);
244     n->window = window;
245
246     n->prev = NULL;
247     n->next = *top;
248     if (n->next) n->next->prev = n;
249
250     *top = n;
251     if (!*bottom) *bottom = n;
252     return n;
253 }
254
255 static void loco_list_delete_link(LocoList **top, LocoList **bottom,
256                                   LocoList *pos)
257 {
258     LocoList *prev = pos->prev;
259     LocoList *next = pos->next;
260
261     if (next)
262         next->prev = prev;
263     if (prev)
264         prev->next = next;
265     if (!next)
266         *bottom = prev;
267     if (!prev)
268         *top = next;
269
270     g_free(pos);
271 }
272
273 static void loco_list_move_before(LocoList **top, LocoList **bottom,
274                                   LocoList *move, LocoList *before)
275 {
276     LocoList *prev, *next;
277
278     /* these won't move it anywhere */
279     if (move == before || move->next == before) return;
280
281     prev = move->prev;
282     next = move->next;
283
284     /* remove it from the list */
285     if (next) next->prev = prev;
286     else      *bottom = prev;
287     if (prev) prev->next = next;
288     else      *top = next;
289
290     /* reinsert it */
291     if (before) {
292         move->next = before;
293         move->prev = before->prev;
294         move->next->prev = move;
295         if (move->prev) move->prev->next = move;
296     }
297     else {
298         /* after the bottom */
299         move->prev = *bottom;
300         move->next = NULL;
301         if (move->prev) move->prev->next = move;
302         *bottom = move;
303     }
304
305     if (!move->prev) *top = move;
306 }
307
308 /* Returns a LocoWindow structure */
309 static LocoWindow* find_window(Window window)
310 {
311     return g_hash_table_lookup(window_map, &window);
312 }
313
314 /* Returns a node from the stacking_top/bottom list */
315 static LocoList* find_stacking(Window window)
316 {
317     return g_hash_table_lookup(stacking_map, &window);
318 }
319
320 void composite_setup_window(LocoWindow *win)
321 {
322     if (win->input_only) return;
323
324     /*something useful = */XDamageCreate(obt_display, win->id, XDamageReportRawRectangles);
325 }
326
327 static void add_window(Window window)
328 {
329     LocoWindow *lw;
330     LocoList *it;
331     XWindowAttributes attrib;
332
333     printf("add window 0x%lx\n", window);
334
335     if (!XGetWindowAttributes(obt_display, window, &attrib))
336         return;
337
338     lw = g_new0(LocoWindow, 1);
339     lw->id = window;
340     lw->input_only = attrib.class == InputOnly;
341     lw->x = attrib.x;
342     lw->y = attrib.y;
343     lw->w = attrib.width;
344     lw->h = attrib.height;
345     lw->depth = attrib.depth;
346     lw->glpixmap = None;
347     glGenTextures(1, &lw->texname);
348   //  glTexImage2D(TARGET, 0, GL_RGB, lw->w, lw->h, 0, GL_BGRA, GL_UNSIGNED_BYTE, NULL);
349     g_hash_table_insert(window_map, &lw->id, lw);
350     /* new windows are at the top */
351     it = loco_list_prepend(&stacking_top, &stacking_bottom, lw);
352     g_hash_table_insert(stacking_map, &lw->id, it);
353
354     composite_setup_window(lw);
355
356     //print_stacking();
357 }
358
359 static void remove_window(LocoWindow *lw)
360 {
361     printf("remove window 0x%lx\n", lw->id);
362
363     LocoList *pos = find_stacking(lw->id);
364     g_assert(pos);
365
366     loco_list_delete_link(&stacking_top, &stacking_bottom, pos);
367     g_hash_table_remove(stacking_map, &lw->id);
368     g_hash_table_remove(window_map, &lw->id);
369
370     g_free(lw);
371
372     //print_stacking();
373 }
374
375 static void show_window(LocoWindow *lw)
376 {
377     guint32 *type;
378     guint i, ntype;
379
380     lw->visible = TRUE;
381
382     /* get the window's semantic type (for different effects!) */
383     lw->type = 0; /* XXX set this to the default type */
384     if (OBT_PROP_GETA32(lw->id, NET_WM_WINDOW_TYPE, ATOM, &type, &ntype)) {
385         /* use the first value that we know about in the array */
386         for (i = 0; i < ntype; ++i) {
387             /* XXX SET THESE TO AN ENUM'S VALUES */
388             if (type[i] == OBT_PROP_ATOM(NET_WM_WINDOW_TYPE_DESKTOP))
389                 lw->type = 1;
390             if (type[i] == OBT_PROP_ATOM(NET_WM_WINDOW_TYPE_MENU))
391                 lw->type = 2;
392             /* XXX there are more TYPES that need to be added to prop.h */
393         }
394         g_free(type);
395     }
396
397 }
398
399 static void hide_window(LocoWindow *lw, gboolean destroyed)
400 {
401     /* if destroyed, then the window is no longer available */
402     lw->visible = FALSE;
403     destroy_glxpixmap(lw);
404 }
405
406 void COMPOSTER_RAWR(const XEvent *e, gpointer data)
407 {
408     int redraw_required = 0;
409
410     if (e->type == ConfigureNotify) {
411         LocoWindow *lw;
412 redraw_required = 1;
413         printf("Window 0x%lx moved or something\n", e->xconfigure.window);
414
415         lw = find_window(e->xconfigure.window);
416         if (lw) {
417             LocoList *above, *pos;
418
419             pos = find_stacking(e->xconfigure.window);
420             above = find_stacking(e->xconfigure.above);
421
422             g_assert(pos != NULL && pos->window != NULL);
423             if (e->xconfigure.above && !above)
424                 printf("missing windows from the stacking list!!\n");
425
426             lw->x = e->xconfigure.x;
427             lw->y = e->xconfigure.y;
428             if ((lw->w != e->xconfigure.width) || (lw->h != e->xconfigure.height)) {
429                 lw->w = e->xconfigure.width;
430                 lw->h = e->xconfigure.height;
431                 if (lw->glpixmap != None) {
432                     destroy_glxpixmap(lw);
433                 }
434             }
435             printf("Window 0x%lx above 0x%lx\n", pos->window->id,
436                    above ? above->window->id : 0);
437             loco_list_move_before(&stacking_top, &stacking_bottom, pos, above);
438         }
439         //print_stacking();
440     }
441     else if (e->type == CreateNotify) {
442         add_window(e->xmap.window);
443     }
444     else if (e->type == DestroyNotify) {
445         LocoWindow *lw = find_window(e->xdestroywindow.window);
446         if (lw) {
447             hide_window(lw, TRUE);
448             if (lw->glpixmap != None) {
449                 destroy_glxpixmap(lw);
450             }
451             remove_window(lw);
452         }
453         else
454             printf("destroy notify for unknown window 0x%lx\n",
455                    e->xdestroywindow.window);
456     }
457     else if (e->type == ReparentNotify) {
458         if (e->xreparent.parent == loco_root)
459             add_window(e->xreparent.window);
460         else {
461             LocoWindow *lw = find_window(e->xreparent.window);
462             if (lw) {
463                 hide_window(lw, FALSE);
464                 remove_window(lw);
465             }
466             else
467                 printf("reparent notify away from root for unknown window "
468                        "0x%lx\n", e->xreparent.window);
469         }
470     }
471     else if (e->type == MapNotify) {
472         LocoWindow *lw = find_window(e->xmap.window);
473         if (lw) show_window(lw);
474         else
475             printf("map notify for unknown window 0x%lx\n",
476                    e->xmap.window);
477     }
478     else if (e->type == UnmapNotify) {
479         LocoWindow *lw = find_window(e->xunmap.window);
480         if (lw) hide_window(lw, FALSE);
481         else
482             printf("unmap notify for unknown window 0x%lx\n",
483                    e->xunmap.window);
484     }
485     else if (e->type == obt_display_extension_damage_basep + XDamageNotify) {
486 //        LocoWindow *lw = find_window(e->xdamage.window);
487   //      if (lw->visible)
488             redraw_required = 1;
489     }
490     if (redraw_required)
491         full_composite();
492 }
493
494 static void find_all_windows(gint screen)
495 {
496     guint i, nchild;
497     Window w, *children;
498
499     if (!XQueryTree(obt_display, loco_root, &w, &w, &children, &nchild))
500         nchild = 0;
501
502     for (i = 0; i < nchild; ++i)
503         if (children[i] != None) add_window(children[i]);
504
505     if (children) XFree(children);
506 }
507
508 static guint window_hash(Window *w) { return *w; }
509 static gboolean window_comp(Window *w1, Window *w2) { return *w1 == *w2; }
510
511 void loco_set_mainloop(gint screen_num, ObtMainLoop *loop)
512 {
513     int db, stencil, depth;
514     int i, j, value, count;
515     int w, h;
516     XVisualInfo *vi, tvis, *visinfo;
517     GLXContext cont;
518     int config[] =
519         { GLX_DEPTH_SIZE, 1, GLX_DOUBLEBUFFER, GLX_RGBA, None };
520
521     loco_screen_num = screen_num;
522     loco_root = obt_root(screen_num);
523     loco_overlay = XCompositeGetOverlayWindow(obt_display, loco_root);
524 XserverRegion region = XFixesCreateRegion(obt_display, NULL, 0);
525
526     XFixesSetWindowShapeRegion (obt_display,
527                                 loco_overlay,
528                                 ShapeBounding,
529                                 0, 0,
530                                 0);
531     XFixesSetWindowShapeRegion (obt_display,
532                                 loco_overlay,
533                                 ShapeInput,
534                                 0, 0,
535                                 region);
536
537     XFixesDestroyRegion (obt_display, region);
538
539     vi = glXChooseVisual(obt_display, screen_num, config);
540     cont = glXCreateContext(obt_display, vi, NULL, GL_TRUE);
541     if (cont == NULL)
542         printf("context creation failed\n");
543     glXMakeCurrent(obt_display, loco_overlay, cont);
544
545     BindTexImageEXT = glXGetProcAddress("glXBindTexImageEXT");
546     ReleaseTexImageEXT = glXGetProcAddress("glXReleaseTexImageEXT");
547
548     w = WidthOfScreen(ScreenOfDisplay(obt_display, screen_num));
549     h = HeightOfScreen(ScreenOfDisplay(obt_display, screen_num));
550     glViewport(0, 0, w, h);
551     glMatrixMode(GL_PROJECTION);
552     glLoadIdentity();
553 printf("Setting up an orthographic projection of %dx%d\n", w, h);
554     glOrtho(0, w, h, 0.0, -1.0, 100.0);
555     glMatrixMode(GL_MODELVIEW);
556     glLoadIdentity();
557     glClear(GL_COLOR_BUFFER_BIT);
558     glEnable(GL_TEXTURE_2D);
559 glError();
560     glXSwapBuffers(obt_display, loco_overlay);
561     glClearColor(1.0, 0.0, 0.0, 1.0);
562 //    glBlendFunc(GL_ONE_MINUS_SRC_ALPHA, GL_SRC_ALPHA);
563 //    glEnable(GL_BLEND);
564     db = 32767;
565     stencil = 32767;
566     depth = 32767;
567     for (i = 0; i <= MAX_DEPTH; i++) {
568         tvis.depth = i;
569         visualIDs[i] = 0;
570         visinfo = XGetVisualInfo(obt_display, VisualDepthMask, &tvis, &count);
571         for (j = 0; j < count; j++) {
572             glXGetConfig(obt_display, &visinfo[j], GLX_USE_GL, &value);
573             if (!value)
574                 continue;
575
576             glXGetConfig(obt_display, &visinfo[j], GLX_DOUBLEBUFFER, &value);
577             if (value > db)
578                 continue;
579             db = value;
580
581             glXGetConfig(obt_display, &visinfo[j], GLX_STENCIL_SIZE, &value);
582             if (value > stencil)
583                 continue;
584             stencil = value;
585
586             glXGetConfig(obt_display, &visinfo[j], GLX_DEPTH_SIZE, &value);
587             if (value > depth)
588                 continue;
589             depth = value;
590
591             visualIDs[i] = visinfo[j].visualid;
592         }
593     }
594
595     for (i = 0 ;i <= MAX_DEPTH; i++) {
596         tvis.visualid = visualIDs[i];
597         glxPixmapVisuals[i] = XGetVisualInfo(obt_display, VisualIDMask, &tvis, &count);
598         if (glxPixmapVisuals[i])
599             printf("supporting depth %d\n", i);
600     }
601     obt_main_loop_x_add(loop, COMPOSTER_RAWR, NULL, NULL);
602     window_map = g_hash_table_new((GHashFunc)window_hash,
603                                   (GEqualFunc)window_comp);
604     stacking_map = g_hash_table_new((GHashFunc)window_hash,
605                                     (GEqualFunc)window_comp);
606     stacking_top = stacking_bottom = NULL;
607
608     XCompositeRedirectSubwindows(obt_display, loco_root, CompositeRedirectManual);
609     find_all_windows(screen_num);
610 }
611
612 void loco_shutdown(void)
613 {
614 }